第一章-深度学习概论

1.2 什么是神经网络

1. ReLU函数（修正线性单元）：“修正”指的是取不小于0的值
   图右是单个神经元：输入面积->computer运算->输出价格

   
   

2. 多个神经元叠加构成一个更大的神经网络

   
   
3. 左边的是输入的特征（输入层-input layer）

• 中间的圆圈在神经网络中被称为“隐藏单元”（Hidden nuit）：每个的输入都来着四个特征，因此是让神经网络自己决定中间的数代表的含义（why，这里为什么要这么说？）

  
  

1.3 用神经网络进行监督学习

• 神经网络架构
• 1.standard neural network architecture 通用标准的神经网络架构

• 2. convolutional neural network 卷积神经网络（CNN）

     
     
     

• 数据
  Structured Data ：结构化数据（数据库），意为着每个特征都有清晰的定义，如数据库表中值的定义
  Unstructured Data : 非结构化数据，图像、音频文本中的内容

  
  

1.4为什么深度学习流行起来

数据量的增加
硬件设备的提升
算法的不断改进创新
规模推动深度学习的发展（神经网络性能随规模、数据的增长不断增长）
x轴代表训练的规模 ，y轴代表表现
数据集不大时，效果取决于手工设计的组件
在图形左边时，各个算法的效率不是很明确
ex： 但在大数据方面，足够的M（训练集）的支持使神经网络的效率领先其他算法