机器学习可以浅显地分为浅层学习和深度学习
浅层学习是决策树和SVM等,也就是西瓜书里的大部分内容,目前最好的浅层学习是梯度提升机,是一种集成的机器学习技术,主要使用XGBoost库;深度学习不是浅层学习的堆叠。梯度提升机主要处理结构化数据的问题,而深度学习主要处理感知问题,使用keras库。
RNN适用于处理序列数据以进行预测,但却受到短期记忆的影响。LSTM和GRU是作为一种使用称为门的机制来缓解短期记忆的痛点而创建的。门结构可以调节流经序列链的信息流。LSTM和GRU正在被用于最先进的深度学习应用,如语音识别,语音合成,自然语言理解等。
GRU的参数量少,减少过拟合的风险
LSTM的参数量是Navie RNN的4倍(看公式),参数量过多就会存在过拟合的风险,GRU只使用两个门控开关,达到了和LSTM接近的结果。其参数量是Navie RNN的三倍
看
LSTM pysam 买书
预测时也应先取在intron的序列。
网友评论