![PyTorch计算机视觉实战:目标检测、图像处理与深度学习](https://wfqqreader-1252317822.image.myqcloud.com/cover/947/50417947/b_50417947.jpg)
2.2.2 张量运算
与NumPy类似,你可以在张量对象上执行各种基本运算。与神经网络运算类似的是输入数据与权重之间的矩阵乘法,添加偏置项,并在需要的时候重塑输入数据或权重值。下面给出这些运算和其他运算的实现代码。
下列代码可以从本书的GitHub存储库(https://tinyurl.com/mcvp-packt)Chapter02文件夹中的Operations_on_tensors.ipynb获得。
❍ 可以使用下列代码将x中所有元素乘以10:
![](https://epubservercos.yuewen.com/37D997/29686491107405206/epubprivate/OEBPS/Images/51_07.jpg?sign=1739314315-llRYMZ27Qq8UDt5Kq4AUQCvMGIXgZuQH-0-10562f533621b560ee5fab899f232556)
❍ 可以使用下列代码将10加到x中的元素,并将得到的张量存储到y中:
![](https://epubservercos.yuewen.com/37D997/29686491107405206/epubprivate/OEBPS/Images/51_08.jpg?sign=1739314315-OvjHNGoXOBHM5aOYL1rYL9X9iI34jnvG-0-b0e96ed3f355562a6a3a8cbf7eff19f5)
❍ 可以使用下列代码重塑一个张量:
![](https://epubservercos.yuewen.com/37D997/29686491107405206/epubprivate/OEBPS/Images/52_01.jpg?sign=1739314315-8cy0LXw8Zxe9MxztTDMrrZXmHcEMxsub-0-3403b32676187417632e212adc401c9f)
❍ 重塑张量的另一种方法是使用squeeze方法,提供我们想要移除的指标轴。注意,这只适用于要删除的轴在该维度中只有一个项的场合:
![](https://epubservercos.yuewen.com/37D997/29686491107405206/epubprivate/OEBPS/Images/52_02.jpg?sign=1739314315-x3TyI4nuCaUzwTpxtl058fZaCrRm3ViE-0-1052135c56aaaf82f034b9b8955ebc97)
❍ 与squeeze相反的是unsqueeze,这意味着给矩阵增加一个维度,可以使用下列代码实现:
![](https://epubservercos.yuewen.com/37D997/29686491107405206/epubprivate/OEBPS/Images/52_03.jpg?sign=1739314315-RtlRIDyNoeji9k1Vou3UABCJT2t3yVjB-0-31cd0e53e1c4594aedbcf8f64f1e2f10)
使用None进行索引是一种很别致的unsqueeze方式,本书经常使用这种方式创建虚拟的通道/批维度。
❍ 可以使用下列代码实现两个不同张量的矩阵乘法:
![](https://epubservercos.yuewen.com/37D997/29686491107405206/epubprivate/OEBPS/Images/52_05.jpg?sign=1739314315-jfxGRMx5w0dVKC9P1CE7sqfy03iyJi4W-0-20368e9dde23ec7ef25d5ea75b75c4b6)
❍ 或者,也可以使用@运算符实现矩阵乘法:
![](https://epubservercos.yuewen.com/37D997/29686491107405206/epubprivate/OEBPS/Images/53_01.jpg?sign=1739314315-BGH2AigyFedwRAYrHS31M5qrtmgL8N2a-0-ed6bfb9aeb2e71733d8380eb3b48ef3f)
❍ 类似于NumPy中的concatenate,可以使用cat方法实现张量的连接:
![](https://epubservercos.yuewen.com/37D997/29686491107405206/epubprivate/OEBPS/Images/53_02.jpg?sign=1739314315-H1DePWDbSbkDCpwgukanVZ7wV5IgJwg6-0-7a97213f95763795fb6ad31decd9397f)
❍ 可以使用下列代码提取张量中的最大值:
![](https://epubservercos.yuewen.com/37D997/29686491107405206/epubprivate/OEBPS/Images/53_03.jpg?sign=1739314315-TVtNPJoxgZFWOs8exLfk4jJ2Sa4vesNQ-0-31fe8349e4d184ac603740b76c18bbd0)
❍ 可以从存在最大值的行索引中提取最大值:
![](https://epubservercos.yuewen.com/37D997/29686491107405206/epubprivate/OEBPS/Images/53_04.jpg?sign=1739314315-4Qp0ngsLSNMQ15oSJz0j1zXyZDflteu4-0-38ee2597af5265089034a00f259a2219)
注意,在前面的输出中,获取的是第0号维度上的最大值,即张量在行上的最大值。因此,所有行上的最大值都是第4个索引中出现的值,所以indices的输出也都是4。此外,.max返回最大值和最大值的位置(argmax)。
类似地,跨列取最大值时的输出如下所示:
![](https://epubservercos.yuewen.com/37D997/29686491107405206/epubprivate/OEBPS/Images/53_05.jpg?sign=1739314315-9MF3JgTscpVhdvbiFv7SMrTExLw45ijL-0-144dad25d2c635a3662fa5026a6d3d25)
min运算与max运算完全相同,但在适合的情况下返回最小值和最小值的位置(arg-minimum)。
❍ 置换一个张量对象的维数:
![](https://epubservercos.yuewen.com/37D997/29686491107405206/epubprivate/OEBPS/Images/53_06.jpg?sign=1739314315-TvHbB9k34KF84neQr1xzABYcEglrxuil-0-48cf9b47a4c258951d95e195da965c6f)
![](https://epubservercos.yuewen.com/37D997/29686491107405206/epubprivate/OEBPS/Images/54_01.jpg?sign=1739314315-fvVeiluo6rsuFMXfNRakqKIYAOZ5KeJF-0-341fdae3787d999cc8f254fdbd0fdfc1)
注意当对原始张量进行排列时,张量的形状就会发生改变。
永远不要通过重塑(即使用tensor.view)一个张量来交换维数。虽然Torch不会抛出一条错误信息,但这是错误的,并将在训练期间产生不可预见的结果。如果需要交换维数,请始终使用permute。
因为本书很难涵盖所有可用的运算,所以重要的是要知道,你可以使用几乎与NumPy相同的语法在PyTorch中执行几乎所有的NumPy运算。标准的数学运算,如abs、add、argsort、ceil、floo、sin、cos、tan、sum、cumprod、diag、eig、exp、log、log2、log10、mean、median、mode、resize、round、sigmoid、softmax、square、sqrt、svd和transpose等,均可以直接在任何有轴或没有轴的张量上被调用。你总是可以运行dir(torch.Tensor)来查看所有可能的Torch张量方法,并通过help(torch.tensor.<method>)来查看关于该方法的官方帮助和相关文档。
接下来,我们将学习如何利用张量在数据上执行梯度计算,这是神经网络执行反向传播的一个关键点。