美文网首页Java
猜猜用什么来存储Docker的镜像?这还真是个“非常手段”

猜猜用什么来存储Docker的镜像?这还真是个“非常手段”

作者: 程序花生 | 来源:发表于2021-02-22 13:21 被阅读0次

    1. 写在最前面

    「不是你想要用什么,而是你有什么,能用的是什么?」

    反复思考这句话的时候,突然意识到不是 docker 选择用文件来存储镜像,而是除了文件以外,docker 别无其他选择。

    从宏观来分析,计算机的组成包括了CPU、内存、磁盘,排除法 CPU 负责逻辑,而内存又是易失存储,所以只能用磁盘来存储。

    从微观上分析,「Linux 一切皆文件」,而这其中文件的抽象包括了对磁盘文件系统的抽象。

    综上所述,所以 docker 的容器和镜像也必然使用了文件来存储。

    他山之石,可以为错,他山之石,可以攻玉。 《诗经 · 小雅 · 鹤鸣》

    2. 分析下文件系统

    2.1 文件系统的组成

    文件系统由两层或者三层组成,有些时候这些层次是被显示地分割开来的,有些时候则是被组合在一起的。

    2.2 文件系统的类型

    下图是一半的 Linux 存储堆叠图,笔者只重点摘抄了本文要分析绿色的文件系统类型部分,感兴趣的读者可点击Linux Storage Stack Diagram 查看

    上图的 VFS 就是 Logical file system 和 Virtual file system 的结合

    • 一方面给用户层提供一些标准的系统调用 open、read、write 来操作文件
    • 一方面对底层的文件系统进行约束,提供统一的抽象接口和方式

    文件系统的类型包括:

    • 磁盘文件系统:基于物理存储设备的文件系统,用来管理设备的存储空间,如 ext2, ext4, xfs 等
    • 网络文件系统:用于访问网络中其他设备上的文件,如 NFS,smbfs 等。
    • 堆栈式文件系统:叠加在其他文件系统之上的一种文件系统,本身不存储数据,而是对下层数据的扩展
    • 伪文件系统:并不管理真正的存储空间,所以被称为伪文件。它组织了一些虚拟的目录和文件,通过这些文件可以访问系统或磁盘的硬件数据。它不是用来存储数据的,而是把数据包装成文件来访问,所以不能把伪文件系统当做存储空间来操作,比如 proc 、sysfs 等。
    • 特殊文件系统:特殊文件系统也是一种伪文件系统,它使用起来更像是一个磁盘文件系统,但是读写的是内存而不是磁盘设备。如 tmpfs、ramfs 等。
    • 用户文件系统:也叫做 FUSE,它提供一种方式可以让开发者在用户空间实现文件系统,而不需要修改内核。这种方式更加灵活,但是效率更低。FUSE 直接面向的是用户文件系统,也不会调用 Block 层。

    2.3 存储驱动

    docker 选择堆栈式文件系统作为其存储,最开始使用的 AUFS 的实现,但是由于 AUFS 并未并入 Linux 内核,以及兼容性问题, Docker 0.7 版本中引入了存储驱动的概念,目前 docker 支持 AUFS、Btrfs、Device mapper、OverlayFS、OverlayFS2、ZFS 存储驱动 。

    • 存储驱动是用来做什么的 ?

    docker 的镜像是由许多 layers 共同组成。在容器运行时,组装这些 layers 并且对运行时提供可写层是存储驱动负责的事情,不同的存储驱动会影响容器的 IO 性能以及占用磁盘的大小。

    注:所有的存储驱动都使用 CoW 技术,切换了 docker 的存储驱动的话,将无法看到之前所下载的镜像。

    • 各类存储驱动的适用场景?

    3. 非常手段查看镜像

    对文件系统有了一个大致的了解以后,让我们先来思考一个问题:

    3.1 查看本机可用镜像

    不用docker images 这个命令,你如何查镜像?

    答: 既然知道 docker 的镜像是用文件存储,所以只要找到存储它们的目录不就解决了嘛。

    注:以下操作在 mac 上找不到……,笔者暗戳戳地找了一台云主机。

    首先,执行下面的命令,找到 docker 存储数据的根目录。

    #docker info  | grep "Docker Root Dir"
     Docker Root Dir: /var/lib/docker
    

    然后,切换到 /var/lib/docker 目录执行

    #cd /var/lib/docker & ls
    builder  buildkit  containerd  containers  image  network  overlay2  plugins  runtimes  swarm  tmp  trust  volumes
    #cd image/overlay2 & ls
    distribution  imagedb  layerdb  repositories.json
    

    最后,发现 repositories.json 文件里记录了本机可用的 docker 镜像。

    #cat repositories.json | jq .
    {
      "Repositories": {
        "agility-playbooks": {
          "agility-playbooks:19-09": "sha256:8859205bb9ffbf9e935de7516ecba9f3f82459cf31ae21e69848dad055f1ec2c"
        },
        "xx.applet": {
          "xx.applet:v1": "sha256:c0519345d5275a721075d1d0ca3398b4cfe86fdb39e6785d61c9f23b6014b180"
        },
        "xx2.applet": {
          "xx2.applet:v1": "sha256:209dad35aa9f65c10dc99f5961f7cd195e0b6e1130d53bd29f4b132070c5fda5"
        },
    }
    

    3.2 分析镜像 layers 组成

    使用 docker inspect 可以查看 Return low-level information on Docker objects

    #docker inspect 8859205bb9ffbf9e935de7516ecba9f3f82459cf31ae21e69848dad055f1ec2c
    
    ……
    "GraphDriver": {
        "Data": {
             "LowerDir": "/data/docker/overlay2/ba5ba156a3671fbe5783a3828c1744f0e2228eef0609a49194d3581534c86a53/diff",
             "MergedDir": "/data/docker/overlay2/253b3ee790492b6ec7626c0cf36eb9ffd17142f4ec1bfb570570d7e7ec5242e5/merged",
             "UpperDir": "/data/docker/overlay2/253b3ee790492b6ec7626c0cf36eb9ffd17142f4ec1bfb570570d7e7ec5242e5/diff",
             "WorkDir": "/data/docker/overlay2/253b3ee790492b6ec7626c0cf36eb9ffd17142f4ec1bfb570570d7e7ec5242e5/work"
        },
        "Name": "overlay2"
    },
    ……
    

    可见笔者这台云主机上的 docker 所使用的存储驱动是 overlay2。

    在多思考下,inspect 这个命令的内容是哪里搞出来的呢?

    切换文件目录到 imagedb/content/sha256 下,使用 xxd (命令用于用二进制或十六进制显示文件的内容 ) 查看文件内容,果然找到了。

    [root@docker /var/lib/docker/image/overlay2/imagedb/content/sha256]
    #ls | grep "8859205bb9ffbf9e935de7516ecba9f3f82459cf31ae21e69848dad055f1ec2c"
    8859205bb9ffbf9e935de7516ecba9f3f82459cf31ae21e69848dad055f1ec2c
    
    [root@docker /var/lib/docker/image/overlay2/imagedb/content/sha256]
    #xxd 8859205bb9ffbf9e935de7516ecba9f3f82459cf31ae21e69848dad055f1ec2c
    0000000: 7b22 6172 6368 6974 6563 7475 7265 223a  {"architecture":
    0000010: 2261 726d 3634 222c 2263 6f6e 6669 6722  "arm64","config"
    0000020: 3a7b 2248 6f73 746e 616d 6522 3a22 222c  :{"Hostname":"",
    0000030: 2244 6f6d 6169 6e6e 616d 6522 3a22 222c  "Domainname":"",
    0000040: 2255 7365 7222 3a22 222c 2241 7474 6163  "User":"","Attac
    0000050: 6853 7464 696e 223a 6661 6c73 652c 2241  hStdin":false,"A
    …………
    0001cc0: 6c69 6e75 7822 2c22 726f 6f74 6673 223a  linux","rootfs":
    0001cd0: 7b22 7479 7065 223a 226c 6179 6572 7322  {"type":"layers"
    0001ce0: 2c22 6469 6666 5f69 6473 223a 5b22 7368  ,"diff_ids":["sh
    0001cf0: 6132 3536 3a31 6564 3531 3231 6135 3230  a256:1ed5121a520
    0001d00: 3335 6139 3830 6335 3439 6565 3039 6364  35a980c549ee09cd
    0001d10: 3739 3361 3434 3437 6635 6561 6263 3232  793a4447f5eabc22
    0001d20: 3339 3962 6532 6236 6531 3166 6634 3962  399be2b6e11ff49b
    0001d30: 3035 3164 3822 2c22 7368 6132 3536 3a32  051d8"]}}
    

    4. 碎碎念

    依稀记得在看《令人心动的 Offer》第一季的时候,面试李浩源的问题:

    「你认为天赋和努力,哪个更重要?」就是这个问题在昨天我终于找到了一个我更加喜欢的答案。

    「初中我刷完了 301 套试题,高中我买了市面上能买到的卷子, 天赋能让一个人闪闪发光,但努力也能」 ——夏林希

    天赋让浩源同学闪闪发光,但是努力才是让普普通通的我们发光的钥匙。(ps 反思,这篇文章写得主题不够清晰,后面要好好改正。嗯,就这样,今天也是开心的一天哦

    5. 参考资料

    • Docker 容器与镜像的存储
    • File system
    • 镜像格式二十年:从 Knoppix 到 OCI-Image-v2
    • 深入理解 ext4 等 Linux 文件系统
    • Linux Storage Stack Diagram
    • 详解 Linux 中的虚拟文件系统
    • Linux Storage Stack Diagram
    • About storage dirvers
    • Linux 中”一切皆文件“是什么意思
    • Docker 的五种存储驱动原理及其应用 场景

    作者:夕颜111
    链接:https://juejin.cn/post/6931299278594375688
    来源:掘金

    相关文章

      网友评论

        本文标题:猜猜用什么来存储Docker的镜像?这还真是个“非常手段”

        本文链接:https://www.haomeiwen.com/subject/ncghfltx.html