PyTorch中Tensor（张量）数据结构内部观察

上图中是一个张量embeds，打开其内部存储空间，我们可以看到内部的构成。

1. PyTorch中张量（Tensor）的介绍

在PyTorch中，Tensor 具有许多属性和方法。以下是其中一些关键的属性和方法：

属性：

1. H：

   在标准的PyTorch API中并没有直接表示为 .H 的属性，但在数学或某些库（如NumPy）中，.H 通常代表共轭转置（Conjugate Transpose），也称为Hermitian conjugate。在处理复数张量时，如果需要进行共轭转置操作，在PyTorch中应先使用 .conj() 方法获取复共轭，然后用 .T 进行转置，即 tensor.conj().T。

2. T：

   .T 属性用于转置（Transpose）张量，它会改变张量的维度顺序。例如，对于二维张量（矩阵），转置会交换行和列的位置。

3. .data：

   返回一个与原张量共享相同存储区的新张量视图，通常用于直接访问底层数据而不涉及计算历史。

4. .device：

   返回一个 torch.device 对象，表示张量所在设备（CPU或GPU）。

5. .dtype：

   返回一个 torch.dtype 对象，代表张量元素的数据类型（如 torch.float32, torch.long 等）。

6. .grad：

   如果该张量是需要求梯度的一部分，则返回与该张量相关的梯度张量；否则为 None。

7. .requires_grad：

   返回一个布尔值，表明此张量是否参与自动求导过程。