美文网首页
pytorch中的一些细微操作

pytorch中的一些细微操作

作者: ClarenceHoo | 来源:发表于2019-03-29 12:00 被阅读0次

    1. pytorch检验版本是否成功

    import torch
    print(torch.cuda.is_available())
    

    true则成功,false则失败

    2.model.train(),model.eval()的作用

    关于代码中的model.train(),model.eval()的说明:
    参考 PyTorch进行训练和测试时指定实例化的model模式为:train/eval
    eval即evaluation模式,train即训练模式。仅仅当模型中有Dropout和BatchNorm是才会有影响。因为训练时dropout和BN都开启,而一般而言测试时dropout被关闭,BN中的参数也是利用训练时保留的参数,所以测试时应进入评估模式。

    3.Tensor.item()

    Tensor.item():Use torch.Tensor.item() to get a Python number from a tensor containing a single value

    4.optimizer.zero_grad()

    梯度置零,清空过往梯度,这种操作模式的好处可参考https://www.zhihu.com/question/303070254

    5.梯度置零

    参考资料:https://www.cnblogs.com/king-lps/p/8570021.html

    相关文章

      网友评论

          本文标题:pytorch中的一些细微操作

          本文链接:https://www.haomeiwen.com/subject/roaqbqtx.html