美文网首页
openmnt(pytorch版的使用)

openmnt(pytorch版的使用)

作者: 柴柴总 | 来源:发表于2020-02-25 04:30 被阅读0次
    1. 安装
      在安装openmnt之前,首先要安装pytorch,如下命令是安装GPU版本并且预先安装的cuda版本是9的
      conda install pytorch torchvision cudatoolkit=9.2 -c pytorch -c defaults -c numba/label/dev
      
    2. 使用
      用transformer训练样例数据
      python  train.py -data data/demo -save_model transformer-model -layers 6 -rnn_size 512 -word_vec_size 512 -transformer_ff 2048 -heads 8 -encoder_type transformer -decoder_type transformer -position_encoding -train_steps 200000  -max_generator_batches 2 -dropout 0.1 -batch_size 4096 -batch_type tokens -normalization tokens  -accum_count 2 -optim adam -adam_beta2 0.998 -decay_method noam -warmup_steps 8000 -learning_rate 2 -max_grad_norm 0 -param_init 0  -param_init_glorot -label_smoothing 0.1 -valid_steps 10000 -save_checkpoint_steps 10000 -world_size 1 -gpu_ranks 0
      
    3. 在kaggle kernel上使用openmnt
      • 新建notebook
      • 用pip安装openmnt-py
        !pip install OpenNMT-py
        
    4. 参考资料
      openmnt-py完整文档
      openmnt论坛

    相关文章

      网友评论

          本文标题:openmnt(pytorch版的使用)

          本文链接:https://www.haomeiwen.com/subject/brmgpctx.html