标量、向量、矩阵、张量

张量: tensor

• 0阶张量: 无自由指标的量，即标量(Scalar, 即数量)
  • 只有大小，没有方向，可用实数表示的一个量
  • 实际上标量就是实数，标量这个称法只是为了区别与向量的差别
  • 在物理学中，标量是在坐标变换下保持不变的物理量。例如，欧几里得空间中两点间的距离在坐标变换下保持不变，相对论四维时空中时空间隔在坐标变换下保持不变。
  • 实例:
    • 标量的例子包括质量、电荷、体积、时间、速率、温度和某一点的电势。
    • 特别地: 电流具有方向性（由正极流向负极），但由于不符合向量运算，所以不会是向量。
• 1阶张量: 即向量(vector, 也称矢量)
  • 指一个同时具有大小和方向，且满足平行四边形法则的几何对象。
  • 1维向量 VS 标量
  • 零向量 VS 标量: 始点与终点重合，即大小为0的向量，记为 $\vec{0}$
    • 零向量依旧具有方向性，但方向不定。
    • 零向量不等于数量0，它们是两种性质完全不同的对象，即 ${\vec {0}}\neq 0$
  • 实例:
    • 运动学中的位移、速度、加速度，力学中的力、力矩，电磁学中的电流密度、磁矩、电磁波等等
    • n 维欧几里得空间 Rn上的向量 ${\vec {v}}=(v_{1},v_{2},\cdots ,v_{n})$
    • 特别地: 电流属既有大小、又有正负方向的量，但由于其运算不满足平行四边形法则，公认为其不属于向量
  • 多维的，也是向量？张量呢？
• 2阶张量: 有两个自有指标的量，即矩阵(matrix)
  • 实例: 图像
• 3阶张量:
  -
• 4阶张量:
  • [batch_size, channel_number, width_size, height_size]
• n阶张量:
  • 包括标量、矢量

理解了张量的“阶”的概念，那么就明白了三者之间的关系了。

• 线性代数专门讨论矢量空间，包括矩阵理论。貌似没太涉及高阶张量
  -

易混点

维 VS 阶

n维: n个自由度
n阶:

n阶是指数级数据扩充
n维是线性数据扩充

n维向量的状态空间，对应n阶张量。

• n阶tensor的shape是n维向量
• n阶tensor中的一个点，也是n维向量

数据 VS 数据空间(data space)

三维向量(数据)的取值空间，是

0维度 VS 0阶

a = 4      # 0阶张量
a = []     # 0维向量
a = [[]]   # 0维矩阵
a = [[[]]] # 0维张量

1维矩阵 VS 1维向量 VS 标量。

举个例子: [[5]]、[5]、5

n维与n阶

3维向量 VS 3阶张量:

矩阵 VS 二维向量

实质: 2阶 VS 2维度

梯度

y=f(x)的梯度，算标量还是向量？正负到底算不算方向？

算1维的向量吧

矩阵

-

代数

几何

可以理解成状态

可以理解成 映射规则、空间变换

物理