美文网首页
迁移 ollama 模型文件到新机器(支持离线运行)

迁移 ollama 模型文件到新机器(支持离线运行)

作者: 宇宙有只AGI | 来源:发表于2024-10-08 04:04 被阅读0次

1. 详细步骤

qwen2.5:0.5b-instruct-fp16为例

1.1 迁移 manifests 文件

# 本地机器
# 查看 manifests 下的配置文件
more ~/.ollama/models/manifests/registry.ollama.ai/library/qwen2.5/0.5b-instruct-fp16
# 输出类似如下
{
  "schemaVersion": 2,
  "mediaType": "application/vnd.docker.distribution.manifest.v2+json",
  "config": {
    "mediaType": "application/vnd.docker.container.image.v1+json",
    "digest": "sha256:ff54cb6e5adea7664c2b555d4bbaf5ee5acbb325104fd8db41282cfb866d0c2e",
    "size": 487
  },
  "layers": [
    {
      "mediaType": "application/vnd.ollama.image.model",
      "digest": "sha256:6f96e01a3f550ca08aea1e5725bb8d5a7eccc6f281c30417e9d380b8c46467bd",
      "size": 994156864,
      "from": "/path/.ollama/models/blobs/sha256-6f96e01a3f550ca08aea1e5725bb8d5a7eccc6f281c30417e9d380b8c46467bd"
    },
    {
      "mediaType": "application/vnd.ollama.image.system",
      "digest": "sha256:66b9ea09bd5b7099cbb4fc820f31b575c0366fa439b08245566692c6784e281e",
      "size": 68
    },
    {
      "mediaType": "application/vnd.ollama.image.template",
      "digest": "sha256:24782485900349ceac7d482c996674daca27a067e15e0902a6e864ca34b51180",
      "size": 1441
    },
    {
      "mediaType": "application/vnd.ollama.image.license",
      "digest": "sha256:832dd9e00a68dd83b3c3fb9f5588dad7dcf337a0db50f7d9483f310cd292e92e",
      "size": 11343
    }
  ]
}

# 本地机器
# 拷贝相关文件(scp或者手动拷贝文件都可以)
cd ~/.ollama/models/manifests/registry.ollama.ai/library/qwen2.5
scp 0.5b-instruct-fp16 username@ip:~/

# 新机器
mv ~/0.5b-instruct-fp16 ~/.ollama/models/manifests/registry.ollama.ai/library/qwen2.5/0.5b-instruct-fp16

1.2 迁移 blobs 文件

# 本地机器
cd .ollama/models/blobs
# 下面一行命令可跳过
ls -lah | grep sha256-ff54cb6e5adea7664c2b555d4bbaf5ee5acbb325104fd8db41282cfb866d0c2e
# 拷贝 0.5b-instruct-fp16 的 config 和 layers 里面的 digest 记录的文件(":" 换成 "-")(其他 4 个文件同理)(手动拷贝文件也可以)
scp sha256-ff54cb6e5adea7664c2b555d4bbaf5ee5acbb325104fd8db41282cfb866d0c2e username@ip:~/

# 新机器
mv username@ip:~/sha256-ff54cb6e5adea7664c2b555d4bbaf5ee5acbb325104fd8db41282cfb866d0c2e ~/.ollama/models/blobs

注:步骤 1.1 的 0.5b-instruct-fp16 里面的 digest 记录的所有文件都要拷贝到新机器

1.3 验证

# 新机器
# 下面一行命令可跳过
ollama list | grep qwen2.5:0.5b-instruct-fp16
ollama run qwen2.5:0.5b-instruct-fp16

相关文章

  • Flask-day03

    一、Flask-Migrate插件(模型迁移) 数据迁移Django中,模型创建好只需要创建迁移文件,执行迁移文件...

  • 运行迁移

    运行迁移 迁移脚本是使用 JavaScript 编写的文件,用于帮助你发布智能合约到以太坊网络。这些文件的职责就是...

  • python django 中models模型数据迁移的简单使用

    模型迁移命令 models.py中模型变动后需要在终端中运行以下命令: models迁移计划目录 如图所示,迁移计...

  • laravel 单元测试

    建模型 含数据迁移文件 创建修改模型迁移文件 执行最新数据迁移 回滚一次(如果之前漏了写错 重新构建数据库表(别...

  • laravel5.8无限极分类

    创建资源控制器 创建模型和迁移文件 修改迁移文件创建分类表 路由 控制器 模型 列表模板 添加模板

  • laravel5.8中模型路由控制器创建方法【附laravel5

    创建控制器 创建控制器同时创建模型 创建迁移文件 创建模型的同时创建迁移文件 执行迁移命令 创建中间件 路由 本人...

  • 二十九:Django之模型类

    一:生成迁移文件 命令:python3 manage.py makemigrations 迁移文件是根据模型类生成...

  • Django创建模板

    MTV M models 模型,创建模型类,生成迁移文件,执行迁移 V view 视图, 创建视图,编写视图处理函...

  • statsD+graphite集群迁移记录

    该文章为本人迁移旧集群的过程记录,为图方便直接打包了原配置文件直接部署到新机器上,而且排除了数据与日志存放目录,故...

  • 从头开始学jccblog 01(环境安装)

    一些需要注意的事项.env 文件php artisan key:generate 生成迁移 填充迁移文件 生成模型...

网友评论

      本文标题:迁移 ollama 模型文件到新机器(支持离线运行)

      本文链接:https://www.haomeiwen.com/subject/oadurjtx.html