张量(tensor)的阶、形状、数据类型

今天学搭感知机的时候有一个函数newaxis，是用来给神经元层增加一个哑节点。

第一层成为输入层（Input Layer），最后一层称为输出层（Output Layer），中间一层成为隐藏层（Hidden Layers）。我们为输入层和隐藏层增加一个偏倚单位（bias unit），就是哑结点，方便计算。

numpy.newaxis从字面上是插入新的维度的意思

In [1]: np.linspace(1, 10, 10)
Out[1]: array([ 1., 2., 3., 4., 5., 6., 7., 8., 9., 10.])

In [2]: np.linspace(1, 10, 10)[np.newaxis,:]
Out[2]: array([[ 1., 2., 3., 4., 5., 6., 7., 8., 9., 10.]])

In [3]: np.linspace(1, 10, 10)[:,np.newaxis]
Out[3]:
array([[ 1.],
[ 2.],
[ 3.],
[ 4.],
[ 5.],
[ 6.],
[ 7.],
[ 8.],
[ 9.],
[ 10.]])

In [4]: np.linspace(1, 10, 10).shape
Out[4]: (10,)

In [5]: np.linspace(1, 10, 10)[np.newaxis,:].shape
Out[5]: (1, 10)

In [6]: np.linspace(1, 10, 10)[:,np.newaxis].shape
Out[6]: (10, 1)

可以看出np.newaxis分别是在行或列上增加维度，原来是(10,)的一维数组，在行上增加维度变成(1, 10)的二维数组，在列上增加维度变为(10,1)的二维数组。

ちょっと待って、这个二维数组是什么意思啊，看起来，也不像是二维的矩阵的意思。之前在word2vec里习惯了一个向量[1,0,...,0]的长度就是它的维数啊，那么numpy里的二维数组究竟是个啥？

NumPy 数组的维数称为秩（rank），一维数组的秩为 1，二维数组的秩为 2，以此类推。
在 NumPy中，每一个线性的数组称为是一个轴（axis），也就是维度（dimensions）。比如说，二维数组相当于是两个一维数组，其中第一个一维数组中每个元素又是一个一维数组。所以一维数组就是 NumPy 中的轴（axis），第一个轴相当于是底层数组，第二个轴是底层数组里的数组。而轴的数量——秩，就是数组的维数。
很多时候可以声明 axis。axis=0，表示沿着第 0 轴进行操作，即对每一列进行操作；axis=1，表示沿着第1轴进行操作，即对每一行进行操作。

秩，即轴的数量或维度的数量

阶

在TensorFlow系统中，张量的维数来被描述为阶.但是张量的阶和矩阵的阶并不是同一个概念.
矩阵的阶表示矩阵大小，比如n阶矩阵就是n*n的矩阵；而张量的阶其实是维数的意思.
张量的阶（有时是关于如顺序或度数或者是n维）是张量维数的一个数量描述.比如，下面的张量（使用Python中list定义的）就是2阶.
t = [[1, 2, 3], [4, 5, 6], [7, 8, 9]]
你可以认为一个二阶张量就是我们平常所说的矩阵，一阶张量可以认为是一个向量.对于一个二阶张量你可以用语句t[i, j]来访问其中的任何元素.而对于三阶张量你可以用't[i, j, k]'来访问其中的任何元素.

• 例1：
  t = [[1, 2, 3], [4, 5, 6], ]就是维的数组，是2阶张量。
• 例2：

  a2 = np.ones((2,3,4), dtype='int16')     # 创建2*3*4全1三维数组
  输出：
  array([[[1, 1, 1, 1],
          [1, 1, 1, 1],
          [1, 1, 1, 1]],
  
         [[1, 1, 1, 1],
          [1, 1, 1, 1],
          [1, 1, 1, 1]]], dtype=int16)
  

例2是全1三维数组，也就是三阶张量。在NumPy 数组没有阶的说法，但意思是一样的。
阶就相当于ndarray中的秩，即轴的数量或维度的数量。

REF:

1. newaxis
   np.newaxis
   https://cloud.tencent.com/developer/article/1406407
   https://www.cnblogs.com/onemorepoint/p/8110523.html

2. NumPy 数组属性 和tensor
   python中的矩阵、多维数组----numpy
   https://www.runoob.com/numpy/numpy-array-attributes.html
   张量的阶、形状、数据类型

3. 线代小复习
   在数学中,矩阵的维数就是矩阵的秩
   把矩阵的秩弄明白了就明白矩阵的维数是什么了
   矩阵的秩就是矩阵中非零子式的最高阶数
   简单来说,就是把矩阵进行初等行变换之后有非零数的行数
   例如,对一个3*5矩阵进行初等行变换,
   最后变换成形如:
   ┌ 1 1 1 0 3 ┐
   │ 0 0 2 3 0 │
   └ 0 0 0 0 0 ┘
   这样的阶梯型矩阵后,数数其中非零行的行数就能知道矩阵的秩有多少了
   显然,其中第一、二行为非零行,一共有两行,所以秩r=2,也就是原矩阵维数为2