优雅的代码总是让人赏心悦目,如同美女总是让男人眼睛一亮。
阅读安德鲁.特拉斯克的《深度学习图解》里的python代码,有些函数的定义蛮有意思的,简洁得不能再简洁。觉得有必要记下来,他山之石可以攻玉。写作的过程也是训练神经网络的过程。
h = relu(x) 作为传递函数,它把负数统统变成0。当x为负数时,返回0,当x为正数时,返回该数。
书本中的代码定义如下:
def relu(x):
return (x>0)*x
relu的导数定义:
def relu2deriv(output):
return output>0
发现没有,代码里没有用到if语句,简洁得不能再简洁了。
网友评论