美文网首页
2022-09-02

2022-09-02

作者: 巨鹿lx | 来源:发表于2022-09-02 12:42 被阅读0次

Resnet

  • 深度神经网络真的是网络层数越多好吗?


    image.png
  • 过多的层不一定会带来更好的效果,因此何凯明提出了Resnet。针对深层的网络中一些是有作用的一些是没有作用的,通过残差连接可以降低无效网络层的权重,从而减少对结果的影响。


    image.png
    image.png

RNN

image.png image.png

Transformer (VIT)

  • 位置编码和patch序列计算


    image.png
image.png

transformer的感受野更加大,更容易获取全局信息,缺点是吃数据。

  • 如何做图像的位置编码?


    image.png

这个结论只针对于分类任务。

TNT

  • 外部transformer就是原始的,内部的是针对每个patch进行超像素划分。


    image.png
image.png image.png

相关文章

  • 2022-09-02

    Nature Cancer | 单细胞分析揭示肉瘤干细胞层级和发育起源 原创骄阳似我图灵基因2022-09-02 ...

  • VScode 报错 TypeScript intellisens

    2022-09-02 周五 报错信息:TypeScript智能感知在模板中是禁用的,你可以在tsconfig或js...

  • 饺子云吞

    2022-09-02 晴热 周五 晚上,老婆和我都无法回家吃饭,但是冰箱里有冻好的饺子,老爸说,...

  • 2022-09-02

    eLife | 斑马鱼中发现预防癌症关键蛋白,与DNA损伤修复相关 原创图灵基因图灵基因2022-09-02 09...

  • 读后感

    2022-09-02 自从读了《列那狐的故事》我不仅感受了 列那狐的狡猾、机智、能屈能伸。还有几 个问题要问。 比...

  • 0305|从恐惧走向臣服

    2022-09-02 北京 天晴 生活中遇到的恐惧的来源: 本能的抗拒,自我保护意识 不敢打破固有的现状,不太愿意...

  • 信哥日记:吃外卖的一天

    2022-09-02 周五 天气晴 今日小结。 今天上午我们除了主科和体育之外,还上了一节戏剧课。老师搞得像在直播...

  • 2022-09-03

    新学期换老师了怎么办?家长可以这么做! 王营说教育 2022-09-02 11:46 发表于山东 点击上方蓝色字“...

  • 开学第二天--在记录中看到我自己的不足|成长日记02

    2022-09-02 01孩子的选择 下午,让孩子选择,是我一起出去和朋友吃饭,还是和爸爸一起吃饭。其实,我更想选...

  • 摆正自己的位置

    2022-09-02 胡胡来了,我看还是有些摆谱的,虽然大家说他人不错,但是也有口风不佳,而且他来是主持工作的,我...

网友评论

      本文标题:2022-09-02

      本文链接:https://www.haomeiwen.com/subject/tagenrtx.html