标量(scalar)

  • 定义：一个标量就是一个单独的数
  • 变量表示：斜体，小写
  • 例：一个自然数标量
    $$ n\in\mathbb{N} $$

向量(vector)

  • 定义：一个向量是一列数。这些数是有序排列的。如果向量中的每个元素都属于实数R，并且该向量有n个元素，则记为：
    $$ \mathbb{R}^n $$
  • 变量表示：粗体，小写
  • 例：一个有n个元素的列向量
    $$ \bm{x} = \begin{bmatrix} x_1 \cr x_2 \cr \vdots \cr x_n \end{bmatrix} $$
  • 我们用符号“ - ” 表示集合的补集中的索引。例：
    $$ 指定 x_1, x_3, x_6, 我们定义集合 S = \lbrace 1,3,6 \rbrace,然后写作\bm{x}_S $$

$$ \bm{x}_{-1}表示\bm{x}中除x_1外的所有元素所构成的向量 $$

$$ \bm{x}_{-S}表示\bm{x}中除x_1, x_3, x_6外的所有元素所构成的向量 $$

矩阵(matrix)

  • 定义：是一个二维数组
  • 变量表示：粗体，大写。在表示矩阵中的元素时：斜体，大写
  • 例：一个2X2矩阵
    $$ \bm{A} = \begin{bmatrix} A_{1,1} & A_{1,2} \cr A_{2,1} & A_{2,2} \end{bmatrix} $$
  • 通过用“ ：”表示水平坐标，以表示垂直坐标i中的所有元素。
  • 例：矩阵的第i行(row)：
    $$ \bm{A}_{i,:} $$
  • 例：矩阵的第i列(column)：
    $$ \bm{A}_{:,i} $$
  • 表示函数f作用在矩阵上输出的矩阵的第i行第j列元素：
    $$ f(\bm{A})_{i,j} $$

张量(tensor)

  • 定义：坐标超过两维的数组。一般的，一个数组中的元素分布在若干维坐标的规则网络中，我们称之为张量。
  • 变量表示：$$ \textsf{\textbf{A}} $$

参考目录

Goodfellow, I., Bengio, Y. and Courville, A., 2016. Deep learning. MIT press.