美文网首页
Bert 的 tensorflow 版预训练模型转 pytorc

Bert 的 tensorflow 版预训练模型转 pytorc

作者: 田丰w | 来源:发表于2021-02-07 15:42 被阅读0次

抱抱脸大神的 transformers 包提供了一个命令行工具, 可以把 tensorflow 版的 bert 转成 pytorch 的

pip install transformers

export BERT_BASE_DIR=pretrained-models/chinese_L-12_H-768_A-12
transformers-cli convert --model_type bert \
  --tf_checkpoint $BERT_BASE_DIR/bert_model.ckpt \
  --config $BERT_BASE_DIR/bert_config.json \
  --pytorch_dump_output $BERT_BASE_DIR/pytorch_model.bin

相关文章

网友评论

      本文标题:Bert 的 tensorflow 版预训练模型转 pytorc

      本文链接:https://www.haomeiwen.com/subject/xepztltx.html