亚导数

注：

令向量为列向量

则标量和标量求导为标量，标量对向量求导为行向量，向量对标量求导为列向量，向量和向量求导为矩阵

注：

（1）上图中的0、1是列向量，加上转置后表示行向量。

（2）sum(x)=x1+x2+......，对向量x求导后，变为[1, 1...., 1]

分子布局、分母布局

注：

（1）右下角为(m,l,k,n)

（2）不论是向量还是矩阵，在分母上时，结果向量或者矩阵相应的部分就会发生转置。(如标量y对向量x求导，x向量在下，就会转置；再如右下角的矩阵Y对矩阵X求导，X矩阵在下，则X矩阵对应的n,k部分就会转置为k,n)