小总结

作者: 天涯海角之路 | 来源:发表于2020-06-13 18:35 被阅读0次
  1. 激活函数。可以在__init__()里实例化nn.下的激活函数计算节点,也可以直接在forward()中使用nn.functional.下的函数

  2. 对模型的参数设定初始化。在__init__()中实例化某计算节点后,对其参数初始化。

import torch.nn.init as init
def __init__():
    ···
    #从高斯分布中抽样
    init.normal(.weight, mean= ,std= )
  1. 按照神经网络的类别做不同的参数初始化
def Model(nn.Module):
    ···
model = Module()
model.apply(···)
  1. dropout加入的位置是在relu激活函数之后,下一层全连接层之前。可以实例化用nn.Dropout()节点,也可以用F.dropout()

相关文章

  • 【iOS 开发】延迟执行方法小总结

    【iOS 开发】延迟执行方法小总结 【iOS 开发】延迟执行方法小总结

  • iOS小技巧总结

    iOS小技巧总结### 参考iOS_小松哥的iOS小技巧总结 总结日常代码生活中的小技巧,随时可用 阿拉伯数字转中...

  • 《小总结》

    前几天,我的文章大都阅读量是个鸭蛋(0). 看到了上图的记录,我有一点小小的开心。因为阅读量有了气色,正如某为网友...

  • 小总结

    对运营工作的理解: 运营工作是产品与用户之间的桥梁。以增加用户量、提升用户活跃度和完成营收为目标,通过把更多的人引...

  • 小总结

    小总结 12年大学毕业,时至今日已有6年时间。这六年的经历对于我这不足三十年的短暂人生可谓是苦乐悲欢样样俱全样样精...

  • 小总结

    这是加入007以来的第三次作业。上次本想像写长篇小说一样,一章一回的更新,但是,后来结合战友的建议,我觉得这样不太...

  • 小总结

    今天是2018年9月14日,想把自己最近看到觉得我能办到的写下来,要不然人一老,这记性就不太好了。 不管你有什...

  • 小总结

    愿你在被打击时, 记起你的珍贵, 抵抗恶意。 愿你在迷茫时, 坚信你的珍贵。 爱你所爱、 行你所行、 听从你心 、...

  • 小总结

    我都做了什么 2018年4月28日 2018将要过去三分之一,学期已经过半,四月将要结束了。我在四月初说过,四...

  • 小总结

    昨天早上听了剽悍晨读对于《晨读日记》这本书的介绍。今天早上我也想花三分钟对我的昨天进行一个总结。昨天上午进行了两场...

网友评论

      本文标题:小总结

      本文链接:https://www.haomeiwen.com/subject/adqgtktx.html