美文网首页神经网络
rnn其实是一种总结状态机

rnn其实是一种总结状态机

作者: JamesPang_4841 | 来源:发表于2019-01-16 09:09 被阅读0次

对于给定数据序列{x0, x1, ..., xn-1},求xn,比较简洁的方法是

将{x0, x1, ..., xn-1}总结为sn-1,再利用sn-1求xn,

同理,对于求xn+1的问题,我们简化偷懒一下:
把sn-1连同xn拿来总结为sn,再由sn求xn+1

于是我们就有了一个新的序列{s0, s1, ..., sn},每一个si都是xi之前所有历史的总结。每次我们只要拿着si来求xi+1就行了,不费劲。

当然你会发现q(xn|x0, x1, ..., xn-1)很复杂,无法总结为全局一个q(xn|sn-1),结合上一篇文章,我们可知,不同的x0, x1, ..., xn-1值,可能会指向神经网络不同地方,得出完全不同的sn-1,然后每一个领域的s(n-1)与xn的映射关系各自管理。

所以rnn需要升级为“领域”总结状态机。

相关文章

  • rnn其实是一种总结状态机

    对于给定数据序列{x0, x1, ..., xn-1},求xn,比较简洁的方法是 将{x0, x1, ..., x...

  • RNN总结

    人工神经网络 适用处理图片信息,但是每个输入之间不会存在联系,不适用于处理序列 RNN-循环神经网络 本质:上一个...

  • RNN总结

    RNN RNN,循环神经网络,是一种专门处理序列数据的神经网络,其基本结构如图所示: RNN的输入是序列数据x与上...

  • 深度学习_循环神经网络RNN与LSTM

    1. 循环神经网络RNN 1) 什么是RNN? 循环神经网络(RNN)是一种节点定向连接成环的人工神经网络。具...

  • pytorch RNN的一点理解

    本文主要介绍一下RNN的计算规则以及pytorch里面RNN怎么计算的,给自己备注一下。RNN是一种循环神经网络,...

  • 拜占庭容错算法

    PBFT: PBFT是一种状态机副本复制算法,即服务作为状态机进行建模,状态机在分布式系统的不同节点进行副本复制。...

  • pytorch中处理变长序列

    输出结果 总结:RNN的输入维度是与batch的size的最后一个维度相等的。然后RNN将不为0的值(不是padd...

  • 状态模式

    一. 什么是状态模式 状态模式是状态机的一种实现方式. 状态机又叫有限状态机(FSM) 状态模式不常用, 有点像组...

  • 循环神经网络:从RNN到GRU、LSTM

    1、为什么要使用RNN? 如果你翻开任何一本介绍RNN的书籍,他一定会提及RNN是一种用来处理序列数据的神经网络,...

  • 序列到序列模型(seq2seq)

    1. 简介 序列到序列模型其实是使用两个RNN。一个读取输入序列,将读取的序列发送给另一个RNN,接着输出序列。如...

网友评论

    本文标题:rnn其实是一种总结状态机

    本文链接:https://www.haomeiwen.com/subject/lgspdqtx.html