tf.nn.softmax_cross_entropy_with

tf.nn.softmax_cross_entropy_with_logits

功能：Computes softmax cross entropy between `logits` and `labels`

`logits` and `labels` must have the same shape, e.g. `[batch_size, num_classes]` and the same dtype (either `float16`, `float32`,or `float64`).

Backpropagation will happen only into `logits`. To calculate a cross entropy loss that allows backpropagation into both `logits` and `labels`, see

  @{tf.nn.softmax_cross_entropy_with_logits_v2}.

_sentinel: Used to prevent positional parameters. Internal, do not use.

labels: Each row `labels[i]` must be a valid probability distribution.实际的标签。

logits: Unscaled log probabilities.神经网络最后一层的输出，如果有batch的话，它的大小就是[batchsize，num_classes]，单样本的话，大小就是num_classes

dim: The class dimension. Defaulted to -1 which is the last dimension.

name: A name for the operation (optional).

Returns: A 1-D `Tensor` of length `batch_size` of the same type as `logits` with the softmax cross entropy loss.

第一步：先对网络最后一层的输出做一个softmax，这一步通常是求取输出属于某一类的概率，对于单样本而言，输出就是一个num_classes大小的向量（[Y1，Y2，Y3...]其中Y1，Y2，Y3...分别代表了是属于该类的概率）

第二步：对softmax的输出向量[Y1，Y2，Y3...]和样本的实际标签做一个交叉熵，公式如下：

交叉熵

显而易见，预测越准确，结果的值越小，最后求一个平均，得到我们想要的loss。

这个函数的返回值并不是一个数，而是一个向量，如果要求交叉熵，要再做一步tf.reduce_sum操作,就是对向量里面所有元素求和，最后才得到，如果求loss，则要做一步tf.reduce_mean操作，对向量求均值