美文网首页马哥Linux
12-磁盘储存和文件管理

12-磁盘储存和文件管理

作者: Liang_JC | 来源:发表于2020-03-03 14:20 被阅读0次

    本章内容

    ◆ 磁盘结构
    ◆ 分区类型
    ◆ 管理分区
    ◆ 管理文件系统
    ◆ 挂载设备
    ◆ 管理虚拟内存
    ◆ RAID管理
    ◆ LVM管理
    ◆ LVM快照

    设备文件

    I/O Ports: I/O设备地址
    一切皆文件:open(), read(), write(), close()
    设备类型:
        块设备:block,存取单位“块”,磁盘
        字符设备:char,存取单位“字符”,键盘
    设备文件:关联至一个设备驱动程序,进而能够跟与之对应硬件设备进行通信
    设备号码:
        主设备号:major number, 标识设备类型
        次设备号:minor number, 标识同一类型下的不同设备
    
    磁盘设备的设备文件命名:/dev/DEV_FILE
    SCSI, SATA, SAS, IDE,USB: /dev/sd
    虚拟磁盘:/dev/vd 、 /dev/xvd
    不同磁盘标识:a-z,aa,ab…
        /dev/sda, /dev/sdb, ...
    同一设备上的不同分区:1,2, ...
        /dev/sda1, /dev/sda5
    硬盘存储术语
        head:磁头
        track:磁道
        cylinder:柱面
        sector:扇区,512bytes
    

    机械硬盘和固态硬盘

    ● 机械硬盘(HDD):Hard Disk Drive,即是传统普通硬盘,主要由:盘片,磁头,盘
        片转轴及控制电机,磁头控制器,数据转换器,接口,缓存等几个部分组成。机械硬盘
        中所有的盘片都装在一个旋转轴上,每张盘片之间是平行的,在每个盘片的存储面上有
        一个磁头,磁头与盘片之间的距离比头发丝的直径还小,所有的磁头联在一个磁头控制
        器上,由磁头控制器负责各个磁头的运动。磁头可沿盘片的半径方向运动,加上盘片每
        分钟几千转的高速旋转,磁头就可以定位在盘片的指定位置上进行数据的读写操作。数
        据通过磁头由电磁流来改变极性方式被电磁流写到磁盘上,也可以通过相反方式读取。
        硬盘为精密设备,进入硬盘的空气必须过滤
    ● 固态硬盘(SSD):Solid State Drive,用固态电子存储芯片阵列而制成的硬盘,由控
        制单元和存储单元(FLASH芯片、 DRAM芯片)组成。固态硬盘在接口的规范和定义、
        功能及使用方法上与普通硬盘的完全相同,在产品外形和尺寸上也与普通硬盘一致
    ● 相较于HDD,SSD在防震抗摔、传输速率、功耗、重量、噪音上有明显优势,SSD传输速率性能是HDD的2倍
    ● 相较于SSD,HDD在价格、容量占有绝对优势
    ● 硬盘有价,数据无价,目前SSD不能完全取代HHD
    
    mknod /dev/cd b 11 0    #创建块设备
    cat /sys/block/sda/queue/rotational #查看硬是否为固态,1为机械
    

    CHS和LBA

    CHS
        采用24bit位寻址
        其中前10位表示cylinder,中间8位表示head,后面6位表示sector
        最大寻址空间8GB
    LBA(logical block addressing)
        LBA是一个整数,通过转换成CHS格式完成磁盘具体寻址
        ATA-1规范中定义了28位寻址模式,以每扇区512位组来计算,ATA-1所定
        义的28位LBA上限达到128 GiB。 2002年ATA-6规范采用48位LBA,同样以
        每扇区512位组计算容量上限可达128 Petabytes
    由于CHS寻址方式的寻址空间在大概8GB以内,所以在磁盘容量小于大概8GB时,
        可以使用CHS寻址方式或是LBA寻址方式;在磁盘容量大于大概8GB时,
        则只能使用LBA寻址方式
    

    使用分区空间

    ● 设备识别
    ● 设备分区
    ● 创建文件系统
    ● 标记文件系统
    ● 在/etc/fstab文件中创建条目
    ● 挂载新的文件系统
    

    磁盘分区

    ● 为什么分区
    ● 优化I/O性能
    ● 实现磁盘空间配额限制
    ● 提高修复速度
    ● 隔离系统和程序
    ● 安装多个OS
    ● 采用不同文件系统
    

    分区

    ● 两种分区方式:MBR,GPT
    ● MBR: Master Boot Record,1982年,使用32位表示扇区数,分区不超过2T
    ● 如何分区:按柱面
    0磁道0扇区:512bytes
        446bytes: boot loader
        64bytes:分区表,其中每16bytes标识一个分区
        2bytes: 55AA
    ● MBR分区中一块硬盘最多有4个主分区,也可以3主分区+1扩展(N个逻辑分区)
    

    MBR分区结构

    ● 硬盘主引导记录MBR由4个部分组成
    ● 主引导程序(偏移地址0000H--0088H),它负责从活动分区中装载,并运行系统引导程序
    出错信息数据区,偏移地址0089H--00E1H为出错信息,00E2H--01BDH全为0字节
    
    ● 分区表(DPT,Disk Partition Table)含4个分区项,偏移地址01BEH--01FDH,
    每个分区表项长16个字节,共64字节为分区项1、分区项2、分区项3、分区项4
    结束标志字,偏移地址01FE--01FF的2个字节值为结束标志55AA
    
    hexdump -C -n 512 /dev/sda      #查看硬盘第一个扇区
    dd if=/dev/sda of=/data/dpt bs=1 count=66 skip=446  #备份分区表
    dd if=/data/dpt of=/dev/sda bs=1 count=66 seek=446  #恢复分区表
    
    image.png

    MBR结构

    image.png

    MBR中DPT结构

    GPT分区

    ● GPT:GUID(Globals Unique Identifiers) partition table 支持128个分区,使用64位,支持8Z( 512Byte/block )64Z ( 4096Byte/block)
    ● 使用128位UUID(Universally Unique Identifier) 表示磁盘和分区 GPT分区表自动备份在头和尾两份,并有CRC校验位
    ● UEFI (Unified Extensible Firmware Interface 统一可扩展固件接口)硬件支持GPT,使操作系统启动
    

    GPT分区结构

    image.png

    BIOS+MBR与UEFI+GPT

    image.png

    管理分区

    列出块设备
        lsblk
    创建分区使用:
        fdisk 创建MBR分区
        gdisk 创建GPT分区
        parted 高级分区操作
    重新设置内存中的内核分区表版本
        partprobe
    

    parted命令

    parted的操作都是实时生效的,小心使用
    用法:parted [选项]... [设备 [命令 [参数]...]...]
        parted /dev/sdb mklabel gpt|msdos
        parted /dev/sdb print
        parted /dev/sdb mkpart primary 1 200 (默认M)
        parted /dev/sdb rm 1
        parted –l 列出分区信息
    

    分区工具fdisk和gdisk

    gdisk /dev/sdb 类fdisk 的GPT分区工具
    fdisk -l [-u] [device...] 查看分区
    fdisk /dev/sdb 管理分区
    子命令:
        p 分区列表
        t 更改分区类型
        n 创建新分区
        d 删除分区
        v 校验分区
        u 转换单位
        w 保存并退出
        q 不保存并退出
    

    同步分区表

    查看内核是否已经识别新的分区
        cat /proc/partations
    centos6通知内核重新读取硬盘分区表
        新增分区用
        partx -a /dev/DEVICE
        kpartx -a /dev/DEVICE -f: force
        删除分区用
        partx -d --nr M-N /dev/DEVICE
    CentOS 5,7: 使用partprobe
        partprobe [/dev/DEVICE]     
    
    partprobe           #centos6不生效有bug,centos5、7支持
    #centos6同步硬盘变化
        partx -a /dev/sda           #加分区
        partx -d --nr 6-7 /dev/sda  #删分区
    

    文件系统

    ● 文件系统是操作系统用于明确存储设备或分区上的文件的方法和数据结构;即在存储设备上组织文件的方法。操作系统中负责管理和存储文件信息的软件结构称为文件管理系统,简称文件系统
    
    ● 从系统角度来看,文件系统是对文件存储设备的空间进行组织和分配,负责文件存储并对存入的文件进行保护和检索的系统。具体地说,它负责为用户建立文件,存入、读出、修改、转储文件,控制文件的存取,安全控制,日志,压缩,加密等
    
    支持的文件系统:/lib/modules/`uname –r`/kernel/fs
    各种文件系统:
        https://en.wikipedia.org/wiki/Comparison_of_file_systems
    

    文件系统类型

    ● Linux文件系统:
        ext2(Extended file system) :适用于那些分区容量不是太大,更新也不频繁的情况,
        例如 /boot 分区
        ext3:是 ext2 的改进版本,其支持日志功能,能够帮助系统从非正常关机导致的异常中
        恢复。它通常被用作通用的文件系统
        ext4:是 ext 文件系统的最新版。提供了很多新的特性,包括纳秒级时间戳、创建和使
        用巨型文件(16TB)、最大1EB的文件系统,以及速度的提升
        xfs:SGI,支持最大8EB的文件系统
        btrfs(Oracle), reiserfs, jfs(AIX), swap
    ● 光盘:iso9660
    ● Windows:FAT32, exFAT,NTFS
    ● Unix: FFS(fast), UFS(unix), JFS2
    ● 网络文件系统:NFS, CIFS
    ● 集群文件系统:GFS2, OCFS2(oracle)
    ● 分布式文件系统: fastdfs,ceph, moosefs, mogilefs, glusterfs, Lustre
    ● RAW:未经处理或者未经格式化产生的文件系统    
    

    文件系统分类

    ● 根据其是否支持"journal"功能:
        日志型文件系统: ext3, ext4, xfs, ...
        非日志型文件系统: ext2, vfat
    ● 文件系统的组成部分:
        内核中的模块:ext4, xfs, vfat
        用户空间的管理工具:mkfs.ext4, mkfs.xfs,mkfs.vfat
    ● Linux的虚拟文件系统:VFS
    ● 查前支持的文件系统:cat /proc/filesystems
    

    VFS

    image.png

    文件系统

    image.png

    创建文件系统

    mkfs命令:
    (1) mkfs.FS_TYPE /dev/DEVICE
        ext4
        xfs
        btrfs
        vfat
    (2) mkfs -t FS_TYPE /dev/DEVICE
        -L 'LABEL' 设定卷标
    

    创建ext文件系统

    mke2fs:ext系列文件系统专用管理工具
        -t {ext2|ext3|ext4} 指定文件系统类型
        -b {1024|2048|4096} 指定块大小
        -L ‘LABEL’ 设置卷标
        -j 相当于 -t ext3
            mkfs.ext3 = mkfs -t ext3 = mke2fs -j = mke2fs -t ext3
        -i # 为数据空间中每多少个字节创建一个inode;不应该小于block大小
        -N # 指定分区中创建多少个inode
        -I 一个inode记录占用的磁盘空间大小,128---4096
        -m # 默认5%,为管理人员预留空间占总空间的百分比
        -O FEATURE[,...] 启用指定特性
        -O ^FEATURE 关闭指定特性
    

    文件系统标签

    ● 指向设备的另一种方法
    ● 与设备无关
    ● blkid:块设备属性信息查看
        blkid [OPTION]... [DEVICE]
        -U UUID 根据指定的UUID来查找对应的设备
        -L LABEL 根据指定的LABEL来查找对应的设备
    ● e2label:管理ext系列文件系统的LABEL
        e2label DEVICE [LABEL]
    ● findfs :查找分区
        findfs [options] LABEL=<label>
        findfs [options] UUID=<uuid>
    

    tune2fs

    tune2fs:重新设定ext系列文件系统可调整参数的值
        -l 查看指定文件系统超级块信息;super block
        -L 'LABEL’ 修改卷标
        -m # 修预留给管理员的空间百分比
        -j 将ext2升级为ext3
        -O 文件系统属性启用或禁用, –O ^has_journal
        -o 调整文件系统的默认挂载选项,–o ^acl
        -U UUID 修改UUID号
    dumpe2fs:显示ext文件系统信息,将磁盘块分组管理
        -h:查看超级块信息,不显示分组信息
    xfs_info:显示已挂载的 xfs 文件系统信息
        xfs_info mountpoint
        
    tune2fs -o acl /dev/sda6    #添加acl功能
    tune2fs -o ^acl /dev/sda6   #取消acl功能
    tune2fs -O has_journal /dev/sda6    #ext2加入ext3功能变为ext3
    tune2fs -O has_journal /dev/sda6    #ext3降为ext2
    tune2fs -U UUID /dev/sda6       #改UUID
    tune2fs -l = dumpe2fs -h
    

    超级块和INODE TABLE

    image.png

    文件系统检测和修复

    ● 文件系统夹故障常发生于死机或者非正常关机之后,挂载为文件系统标记为“no clean”
    注意:一定不要在挂载状态下执行下面命令修复
    fsck: File System Check
        fsck.FS_TYPE
        fsck -t FS_TYPE
        注意:FS_TYPE 一定要与分区上已经文件类型相同
        -a 自动修复
        -r 交互式修复错误
    e2fsck:ext系列文件专用的检测修复工具
        -y 自动回答为yes
        -f 强制修复
        -p 自动进行安全的修复文件系统问题
    xfs_repair:xfs文件系统专用检测修复工具
        -f 修复文件,而不是设备
        -n 只检查
        -d 允许修复只读的挂载设备,在单用户下修复 / 时使用,然后立即reboot
    
    xfs_repair /dev/sda6    #修复文件系统
    

    挂载mount

    ● 挂载:将额外文件系统与根文件系统某现存的目录建立起关联关系,进而使得此目录做为其它文件访问入口的行为
    ● 卸载:为解除此关联关系的过程
    把设备关联挂载点:mount Point
        mount
    ● 卸载时:可使用设备,也可以使用挂载点
        umount 设备名|挂载点
    ● 挂载点下原有文件在挂载完成后会被临时隐藏
    ● 挂载点目录一般为空
    

    用mount命令挂载文件系统

    挂载方法:mount DEVICE MOUNT_POINT
    mount:通过查看/etc/mtab文件显示当前已挂载的所有设备
    mount [-fnrsvw] [-t vfstype] [-o options] device dir
        device:指明要挂载的设备;
        (1) 设备文件:例如/dev/sda5
        (2) 卷标:-L 'LABEL', 例如 -L 'MYDATA'
        (3) UUID, -U 'UUID':例如 -U '0c50523c-43f1-45e7-85c0-a126711d406e'
        (4) 伪文件系统名称:proc, sysfs, devtmpfs, configfs
        dir:挂载点
            事先存在,建议使用空目录
            进程正在使用中的设备无法被卸载 
    
    mount -r /dev/sda1 /mnt/sda1        #只读挂载
    mount -o remount,rw /mnt/sda1       #重新挂载
    

    mount常用命令选项

    -t vsftype 指定要挂载的设备上的文件系统类型
    -r readonly,只读挂载
    -w read and write, 读写挂载
    -n 不更新/etc/mtab,mount不可见
    -a 自动挂载所有支持自动挂载的设备(定义在了/etc/fstab文件中,且挂载选项中有auto功能)
    -L 'LABEL' 以卷标指定挂载设备
    -U 'UUID' 以UUID指定要挂载的设备
    -B, --bind 绑定目录到另一个目录上
    查看内核追踪到的已挂载的所有设备
        cat /proc/mounts
        
    mount -n /dev/sda6 /mnt/sda6    #隐藏挂载(仅限centos6)
    cat /proc/mounts                #查看隐藏挂载
    mount -B /boot /mnt/boot        #挂载目录
    
    #挂载文件
    dd if=/dev/zero of=/data/disk bs=1M count=100
    mkfs.xfs /data/disk
    mount /data/disk /mnt/disk      #centos7
    mount -o loop /data/disk /mnt/disk  #centos6
    
    #centos6上loop设备只有8个,超过8个需要手动创建,centos7自动创建loop设备
    临时生效:
    mknod /dev/loop100 b 7 100      #创建loop100设备
    永久生效:
    vim /etc/grub/grub.conf
    kernel 行的最后追加 "max_loop=100"    #生成100个loop设备
    
    #指定loop设备挂载
    losetup /dev/loop66 /data/disk2     
    losetup -a                          #查看关联
    mount /dev/loop66 /mnt/disk2
    

    mount常用命令选项

    -o options:(挂载文件系统的选项),多个选项使用逗号分隔
        async 异步模式 sync 同步模式,内存更改时,同时写磁盘
        atime/noatime 包含目录和文件
        diratime/nodiratime 目录的访问时间戳
        auto/noauto 是否支持自动挂载,是否支持-a选项
        exec/noexec 是否支持将文件系统上运行应用程序
        dev/nodev 是否支持在此文件系统上使用设备文件
        suid/nosuid 是否支持suid和sgid权限
        remount 重新挂载
        ro 只读 rw 读写
        user/nouser 是否允许普通用户挂载此设备,/etc/fstab使用
        acl 启用此文件系统上的acl功能
        loop 使用loop设备
    defaults:相当于rw, suid, dev, exec, auto, nouser, async
    
    mount -o remount,acl /mnt/sda6      #开启acl
    mount -o remount,noacl /mnt/sda6    #关闭acl
    

    卸载命令

    查看挂载情况
        findmnt MOUNT_POINT|device
    查看正在访问指定文件系统的进程
        lsof MOUNT_POINT
        fuser -v MOUNT_POINT
    终止所有在正访问指定的文件系统的进程
        fuser -km MOUNT_POINT
    卸载
        umount DEVICE
        umount MOUNT_POINT
        
    fuser -v /dev/sda7  #查看谁在使用
    findmnt /mnt/sda7   #查看目录是否为挂载点
    lsof /etc/issue     #查看文件谁在使用
    

    挂载点和/etc/fstab

    ● 配置文件系统体系
    ● 被mount、 fsck和其它程序使用
    ● 系统重启时保留文件系统体系
    ● 可以在设备栏使用文件系统卷标
    ● 使用mount -a 命令挂载/etc/fstab中的所有文件系统
    

    文件挂载配置文件

    /etc/fstab每行定义一个要挂载的文件系统
    1、要挂载的设备或伪文件系统
        设备文件
        LABEL:LABEL=""
        UUID:UUID=""
        伪文件系统名称:proc, sysfs
    2、挂载点
    3、文件系统类型:ext4,xfs,iso9660,nfs,none
    4、挂载选项:defaults ,acl,bind
    5、转储频率:0:不做备份 1:每天转储 2:每隔一天转储
    6、 fsck检查的文件系统的顺序:允许的数字是0 1 2
        0:不自检
        1:首先自检;一般只有rootfs才用
        2:非rootfs使用
        
    /boot /mnt/boot none bind 0 0       #挂载目录
    /dev/sr0 /mnt/cdrom iso9660 defaults 0 0    #挂载光盘
    

    挂载交换分区

    基本设置包括:
        创建交换分区或者文件
        使用mkswap写入特殊签名
        在/etc/fstab文件中添加适当的条目
        使用swapon -a 激活交换空间
    启用:swapon
        swapon [OPTION]... [DEVICE]
        -a:激活所有的交换分区
        -p PRIORITY:指定优先级
        /etc/fstab 在第4列中:pri=value
    

    禁用:swapoff [OPTION]... [DEVICE]

    cat /proc/swaps 或 swapon -s     #查看swap挂载情况
    /swapfile swap swap defaults 0 0
    /swapfile swap swap pri=10 0 0      #优先级
    

    SWAP的优先级

    ● 可以指定swap分区0到32767的优先级,值越大优先级越高
    ● 如果用户没有指定,那么核心会自动给swap指定一个优先级,这个优先级从-1开始,每加入一个新的没有用户指定优先级的swap,会给这个优先级减一
    ● 先添加的swap的缺省优先级比较高,除非用户自己指定一个优先级,而用户指定的优先级(是正数)永远高于核心缺省指定的优先级(是负数)
    ● 优化性能:分布存放,高性能磁盘存放
    

    移动介质

    ● 挂载意味着使外来的文件系统看起来如同是主目录树的一部分
    ● 访问前,介质必须被挂载
    ● 摘除时,介质必须被卸载
    ● 按照默认设置,非根用户只能挂载某些设备(光盘、 DVD、软盘、 USB等等)
    ● 挂载点通常在/media 或/mnt下
    

    使用光盘

    在图形环境下自动启动挂载/run/media/<user>/<label>
    否则就必须被手工挂载
        mount /dev/cdrom /mnt/
    操作光盘:
        eject 弹出光盘
        eject -t 弹入光盘
    创建ISO文件
        cp /dev/cdrom /root/centos.iso
        mkisofs -r -o /root/etc.iso /etc
    刻录光盘
        wodim –v –eject centos.iso
    

    挂载USB介质

    查看USB设备是否识别
        lsusb
    被内核探测为SCSI设备
        /dev/sdaX、 /dev/sdbX或类似的设备文件
    在图形环境中自动挂载
        图标在[计算机]窗口中创建
        挂载在/run/media/<user>/<label>
    手动挂载
        mount /dev/sdb1 /mnt
    

    常见工具

    文件系统空间占用等信息的查看工具
        df [OPTION]... [FILE]...
            -H 以10为单位
            -T 文件系统类型
            -h human-readable
            -i inodes instead of blocks
            -P 以Posix兼容的格式输出
        查看某目录总体空间占用状态
            du [OPTION]... DIR
            -h human-readable
            -s summary
            --max-depth=# 指定最大目录层级
            
    df -P       #保持输出格式
    dd if=/dev/zero of=/data/test bs=1G count=0 seek=10     #稀疏文件,不占空间  
    

    工具dd

    dd 命令:convert and copy a file
    用法:
        dd if=/PATH/FROM/SRC of=/PATH/TO/DEST bs=# count=#
        if=file 从所命名文件读取而不是从标准输入
        of=file 写到所命名的文件而不是到标准输出
        ibs=size 一次读size个byte
        obs=size 一次写size个byte
        bs=size block size, 指定块大小(既是是ibs也是obs)
        cbs=size 一次转化size个byte
        skip=blocks 从开头忽略blocks个ibs大小的块
        seek=blocks 从开头忽略blocks个obs大小的块
        count=n 复制n个bs
        
    conv=conversion[,conversion...] 用指定的参数转换文件
    转换参数:
        ascii 转换 EBCDIC 为 ASCII
        ebcdic 转换 ASCII 为 EBCDIC
        lcase 把大写字符转换为小写字符
        ucase 把小写字符转换为大写字符
        nocreat 不创建输出文件
        noerror 出错时不停止
        notrunc 不截短输出文件
        sync 把每个输入块填充到ibs个字节,不足部分用空(NUL)字符补齐
        fdatasync 写完成前,物理写入输出文件
    
    
    备份MBR
        dd if=/dev/sda of=/tmp/mbr.bak bs=512 count=1
    破坏MBR中的bootloader
        dd if=/dev/zero of=/dev/sda bs=64 count=1 seek=446
    有一个大与2K的二进制文件fileA。现在想从第64个字节位置开始读取,需要读取的大小是128Byts。又有fileB,想把上面读取到的128Bytes写到第32个字节开始的位置,替换128Bytes,实现如下
    dd if=fileA of=fileB bs=1 count=128 skip=63 seek=31 conv=notrunc
    
    
    备份:
        dd if=/dev/sdx of=/dev/sdy
        将本地的/dev/sdx整盘备份到/dev/sdy
        dd if=/dev/sdx of=/path/to/image
        将/dev/sdx全盘数据备份到指定路径的image文件
        dd if=/dev/sdx | gzip >/path/to/image.gz
        备份/dev/sdx全盘数据,并利用gzip压缩,保存到指定路径
    恢复:
        dd if=/path/to/image of=/dev/sdx
        将备份文件恢复到指定盘
        gzip -dc /path/to/image.gz | dd of=/dev/sdx
        将压缩的备份文件恢复到指定盘
        
    拷贝内存资料到硬盘
        dd if=/dev/mem of=/root/mem.bin bs=1024
        将内存里的数据拷贝到root目录下的mem.bin文件
    从光盘拷贝iso镜像
        dd if=/dev/cdrom of=/root/cd.iso
        拷贝光盘数据到root文件夹下,并保存为cd.iso文件
    销毁磁盘数据
        dd if=/dev/urandom of=/dev/sda1
        利用随机的数据填充硬盘,在某些必要的场合可以用来销毁数据,执行此操作
        以后,/dev/sda1将无法挂载,创建和拷贝操作无法执行
    

    练习

    1、 创建一个2G的文件系统,块大小为2048byte,预留1%可用空间,文件系统 ext4,卷标为TEST,要求此分区开机后自动挂载至/test目录,且默认有acl挂载选项
    echo -e 'n\np\n\n\n+2G\nw\n' | fdisk /dev/sdb
    mkfs.ext4 -b 2048 -m 1 -L TEST /dev/sdb1
    mkdir /test
    echo "UUID=54242394-ccc3-4e55-840f-f989a30eec2d /test ext4 defaults,acl 0 0" >> /etc/fstab
    
    2、写一个脚本,完成如下功能:

    (1) 列出当前系统识别到的所有磁盘设备
    (2) 如磁盘数量为1,则显示其空间使用信息,否则,则显示最后一个磁盘上的空间使用信息

    vim /data/script/lsdisk.sh
    #!/bin/bash
    DISKNUM=`lsblk | grep "disk" | wc -l`
    if [ $DISKNUM -eq 0 ];then
        echo "Not find disks"
    elif [ $DISKNUM -eq 1 ];then
        df -h | grep "sda"
    else
        case $DISKNUM in
            2)
                df -h | grep "sdb"
            ;;
            3)
                df -h | grep "sdc"
            ;;
            4)
                df -h | grep "sdd"
            ;;
            5)
                df -h | grep "sde"
            ;;
            6)
                df -h | grep "sdf"
            ;;
            7)
                df -h | grep "sdg"          
            ;;
            *)
                echo "Disk is so much"
            ;;
        esac             
    fi
    
    3、将CentOS6的CentOS-6.10-x86_64-bin-DVD1.iso和CentOS-6.10-x86_64-bin-DVD2.iso两个文件,合并成一个CentOS-6.10-x86_64-Everything.iso文件,并将其配置为yum源,把cd1和cd2复制到一个目录(隐藏文件也要复制)
    cp -r /misc/cd/.* /data/ISO
    mkdvdiso.sh /data/ISO/ /data/centos6-x86_64-DVD.iso
    mount -o loop /data/centos6.10-x86_64-DVD.iso /mnt/cd1
    vim /etc/yum.repos.d/cd.repo
    [cdrom]
    name=cd base
    baseurl=file:///mnt/cd1
    gpgkey=file:///mnt/cd1/RPM-GPG-KEY-CentOS-6
    

    什么是RAID

    RAID:Redundant Arrays of Inexpensive(Independent) Disks
    1988年由加利福尼亚大学伯克利分校(University of CaliforniaBerkeley) 
    “A Case for Redundant Arrays of Inexpensive Disks”
    多个磁盘合成一个“阵列”来提供更好的性能、冗余,或者两者都提供
    

    RAID

    提高IO能力
        磁盘并行读写
    提高耐用性
        磁盘冗余来实现
    级别:多块磁盘组织在一起的工作方式有所不同
    RAID实现的方式
        外接式磁盘阵列:通过扩展卡提供适配能力
        内接式RAID:主板集成RAID控制器,安装OS前在BIOS里配置
        软件RAID:通过OS实现
    

    RAID级别

    RAID-0:条带卷,strip
    RAID-1:镜像卷,mirror
    RAID-2
    ..
    RAID-5
    RAID-6
    RAID-7
    RAID-10
    RAID-01
    

    RAID-0:

    ● 读、写性能提升可用空间:N*min(S1,S2,...)无容错能力
    ● 最少磁盘数:2, 2+


    image.png

    RAID-1:

    ● 读性能提升、写性能略有下降可用空间:1*min(S1,S2,...)有冗余能力
    ● 最少磁盘数:2, 2N


    image.png

    RAID-4:

    ● 多块数据盘异或运算值存于专用校验盘

    RAID-5:

    ● 读、写性能提升可用空间:(N-1)*min(S1,S2,...)有容错能力:允许最多1块磁盘损坏
    ● 最少磁盘数:3, 3+


    image.png

    RAID-6:

    ● 读、写性能提升可用空间:(N-2)*min(S1,S2,...)有容错能力:允许最多2块磁盘损坏
    ● 最少磁盘数:4, 4+


    image.png

    RAID-10:

    ● 读、写性能提升可用空间:N*min(S1,S2,...)/2有容错能力:每组镜像最多只能坏一块
    ● 最少磁盘数:4, 4+


    image.png

    RAID-01

    ● 多块磁盘先实现RAID0,再组合成RAID1


    image.png

    RAID-50

    ● 多块磁盘先实现RAID5,再组合成RAID0


    image.png

    JBOD:Just a Bunch Of Disks

    ● 功能:将多块磁盘的空间合并一个大的连续空间使用
    ● 可用空间:sum(S1,S2,...)


    image.png

    RAID7

    ● 可以理解为一个独立存储计算机,自身带有操作系统和管理工具,可以独立运行,理论上性能最高的RAID模式
    ● 常用级别:RAID-0, RAID-1, RAID-5, RAID-10, RAID-50, JBOD

    软RAID

    ● mdadm:为软RAID提供管理界面
    ● 为空余磁盘添加冗余
    ● 结合内核中的md(multi devices)
    ● RAID设备可命名为/dev/md0、 /dev/md1、 /dev/md2、 /dev/md3等
    

    软件RAID的实现

    ● mdadm:模式化的工具
    ● 命令的语法格式:mdadm [mode] <raiddevice> [options] <component devices>
    ● 支持的RAID级别:LINEAR, RAID0, RAID1, RAID4, RAID5, RAID6, RAID10
    模式:
        创建:-C
        装配:-A
        监控:-F
        管理:-f, -r, -a
    <raiddevice>: /dev/md#
    <component-devices>: 任意块设备
    
    -C: 创建模式
        -n #: 使用#个块设备来创建此RAID
        -l #:指明要创建的RAID的级别
        -a {yes|no}:自动创建目标RAID设备的设备文件
        -c CHUNK_SIZE: 指明块大小,单位k
        -x #: 指明空闲盘的个数
    -D:显示raid的详细信息
        mdadm -D /dev/md#
    管理模式:
        -f: 标记指定磁盘为损坏
        -a: 添加磁盘
        -r: 移除磁盘
    观察md的状态: cat /proc/mdstat
    

    软RAID配置示例

    使用mdadm创建并定义RAID设备
        mdadm -C /dev/md0 -a yes -l 5 -n 3 -x 1 /dev/sd{b,c,d,e}1
    用文件系统对每个RAID设备进行格式化
        mkfs.xfs /dev/md0
    测试RAID设备
    使用mdadm检查RAID设备的状况
        mdadm --detail|D /dev/md0
    增加新的成员
        mdadm –G /dev/md0 –n4 -a /dev/sdf1
    

    软RAID测试和修复

    ● 模拟磁盘故障
        mdadm /dev/md0 -f /dev/sda1
    ● 移除磁盘
        mdadm /dev/md0 –r /dev/sda1
    ● 从软件RAID磁盘修复磁盘故障
    ● 替换出故障的磁盘然后开机
    ● 在备用驱动器上重建分区
    
    mdadm /dev/md0 -a /dev/sda1
    mdadm /proc/mdstat及系统日志信息
    

    软RAID管理

    ● 生成配置文件:mdadm –D –s >> /etc/mdadm.conf
    ● 停止设备:mdadm –S /dev/md0
    ● 激活设备:mdadm –A –s /dev/md0 激活
    ● 强制启动:mdadm –R /dev/md0
    ● 删除raid信息:mdadm --zero-superblock /dev/sdb1
    

    逻辑卷管理器(LVM)

    ● 允许对卷进行方便操作的抽象层,包括重新设定文件系统的大小
    ● 允许在多个物理设备间重新组织文件系统
        将设备指定为物理卷
        用一个或者多个物理卷来创建一个卷组
        物理卷是用固定大小的物理区域(Physical Extent,PE)来定义的
        在物理卷上创建的逻辑卷
            是由物理区域(PE)组成
        可以在逻辑卷上创建文件系统
    
    image.png

    LVM介绍

    LVM: Logical Volume Manager, Version 2
    dm: device mapper,将一个或多个底层块设备组织成一个逻辑设备的模块
    设备名:/dev/dm-#
    软链接:
        /dev/mapper/VG_NAME-LV_NAME
            /dev/mapper/vol0-root
        /dev/VG_NAME/LV_NAME
            /dev/vol0/root
    

    pv管理工具

    显示pv信息
        pvs:简要pv信息显示
        pvdisplay
    创建pv
        pvcreate /dev/DEVICE
    删除pv
        pvremove /dev/DEVICE
    

    vg管理工具

    显示卷组
        vgs
        vgdisplay
    创建卷组
        vgcreate [-s #[kKmMgGtTpPeE]] VolumeGroupName   #-s指定PE大小
        PhysicalDevicePath [PhysicalDevicePath...]
    管理卷组
        vgextend VolumeGroupName PhysicalDevicePath [PhysicalDevicePath...]
        vgreduce VolumeGroupName PhysicalDevicePath [PhysicalDevicePath...]
    删除卷组
        先做pvmove,再做vgremove
    

    lv管理工具

    显示逻辑卷
        lvs
        Lvdisplay
    创建逻辑卷
        lvcreate -L #[mMgGtT] -n NAME VolumeGroup
        lvcreate -l 60%VG -n mylv testvg
        lvcreate -l 100%FREE -n yourlv testvg
    删除逻辑卷
        lvremove /dev/VG_NAME/LV_NAME
    重设文件系统大小
        fsadm [options] resize device [new_size[BKMGTEP]]
        resize2fs [-f] [-F] [-M] [-P] [-p] device [new_size]
        xfs_growfs /mountpoint
        
    pvcreate /dev/sdb1 /dev/sdd         #创建物理卷
    vgcreate vg0 /dev/sda1 /dev/sdd         #创建卷组
    lvcreate -L 8G -n mysql vg0         #逻辑卷分区
    mkfs.xfs /dev/vg0/mysql
    mount /dev/vg0/mysql /mnt/mysql
    
    lvextend -l +100%free /dev/vg0/mysql    #扩展逻辑卷
    xfs_growfs /mnt/mysql                   #xfs分区扩展容量
    

    逻辑卷扩缩

        扩展逻辑卷:
        lvextend -L [+]#[mMgGtT] /dev/VG_NAME/LV_NAME
        resize2fs /dev/VG_NAME/LV_NAME
        lvresize -r -l +100%FREE /dev/VG_NAME/LV_NAME
    缩减逻辑卷:
        umount /dev/VG_NAME/LV_NAME
        e2fsck -f /dev/VG_NAME/LV_NAME
        resize2fs /dev/VG_NAME/LV_NAME #[mMgGtT]
        lvreduce -L [-]#[mMgGtT] /dev/VG_NAME/LV_NAME
        mount
    
    #ext4扩展逻辑卷
    pvcreate /dev/sde
    vgextend vg0 /dev/sde
    
    lvcreate -L 10G -n binlog vg0
    mkfs.ext4 /dev/vg0/binlog
    mount /dev/vg0/binlog /mnt/binlog
    lvextend -l +1000 /dev/vg0/binlog
    resize2fs /dev/vg0/binlog
    
    #扩展并重设文件系统大小
    lvextend -r -l +500 /dev/vg0/binlog
    
    #缩减(xfs不支持缩减)
    umount /mnt/binlog
    e2fsck -f /dev/vg0/binlog
    resize2fs /dev/vg0/binlog 10G
    lvreduce -L 10G /dev/vg0/binlog
    mount /dev/vg0/binlog /mnt/binlog
    

    跨主机迁移卷组

    源计算机上
    1 在旧系统中,umount所有卷组上的逻辑卷
    2 禁用卷组
        vgchange –a n vg0
        lvdisplay
    3 导出卷组
        vgexport vg0
        pvscan
        vgdisplay
        拆下旧硬盘
    目标计算机上
    4 在新系统中安装旧硬盘,并导入卷组:vgimport vg0
    5 vgchange –ay vg0 启用
    6 mount所有卷组上的逻辑卷
    
    #假设某硬盘坏了,需要取出来
    1、假设硬盘空间足够
        pvmove /dev/sdd
        vgreduce vg0 /dev/sdd
        pvremove /dev/sdd
        
    2、如果硬盘空间不够,添加新的硬盘后再移除
        pvcreate /dev/sdf
        vgextend vg0 /dev/sdf
        pvmove /dev/sdd
        vgreduce vg0 /dev/sdd
        pvremove /dev/sdd
        
    #删除逻辑卷
        lvremove /dev/vg1/mysql
        vgremove vg1
        pvremove /dev/sde
    

    逻辑卷管理器快照

    ● 快照是特殊的逻辑卷,它是在生成快照时存在的逻辑卷的准确拷贝
    ● 对于需要备份或者复制的现有数据临时拷贝以及其它操作来说,快照是最合适的选择
    ● 快照只有在它们和原来的逻辑卷不同时才会消耗空间
        在生成快照时会分配给它一定的空间,但只有在原来的逻辑卷或者快照有所改变才会使用这些空间
        当原来的逻辑卷中有所改变时,会将旧的数据复制到快照中
        快照中只含有原来的逻辑卷中更改的数据或者自生成快照后的快照中更改的数据
        建立快照的卷大小小于等于原始逻辑卷,也可以使用lvextend扩展快照     
    ● 快照就是将当时的系统信息记录下来,就好像照相一般,若将来有任何数据改动了,则原始数据会被移动到快照区,没有改动的区域则由快照区和文件系统共享
    ● 由于快照区与原本的LV共用很多PE的区块,因此快照与被快照的LV必须在同一个VG中.系统恢复的时候的文件数量不能高于快照区的实际容量
    

    使用LVM快照

    为现有逻辑卷创建快照
        lvcreate -l 64 -s -n data-snapshot -p r /dev/vg0/data   #-pr只读
    挂载快照
        mkdir -p /mnt/snap
        mount -o ro /dev/vg0/data-snapshot /mnt/snap            #ext4挂载
        mount -o nouuid,ro /dev/vg0/data-snapshot /mnt/snap     #xfs挂载
    恢复快照
        umount /dev/vg0/data-snapshot
        umount /dev/vg0/data
        lvconvert --merge /dev/vg0/data-snapshot                #还原后自动删除快照
    删除快照
        umount /mnt/databackup
        lvremove /dev/vg0/databackup
    #xfs 
        lvcreate  -s -n mysql_snapshot2 -L 1G /dev/vg0/mysql 
        mount -o nouuid,ro  /dev/vg0/mysql_snapshot2  /mnt/snap/
    
    #ext4 
        lvcreate  -n binlog_snapshot -s -p r -L 1G /dev/vg0/binlog 
        mount /dev/vg0/binlog_snapshot /mnt/snap/       
    
    #还原
        umount /mnt/binlog/
        umount /mnt/snap/
        lvconvert  --merge /dev/vg0/binlog_snapshot
        mount  /dev/vg0/binlog  /mnt/binlog/
    

    练习

    1、创建一个至少有两个PV组成的大小为20G的名为testvg的VG;要求PE大小为16MB, 而后在卷组中创建大小为5G的逻辑卷testlv;挂载至/users目录
    echo -e 'n\n\n\n\n+10G\nt\n8e\nw\n' | fdisk /dev/sdb
    echo -e 'n\n\n\n\n+10G\nt\n8e\nw\n' | fdisk /dev/sdc
    pvcreate /dev/sdb2 /dev/sdc1
    vgcreate -s 16 test /dev/sdb2 /dev/sdc1
    lvcreate -L 5G -n testlv test
    mkfs.ext4 /dev/test/testlv
    vim /etc/fstab
    UUID=8c7a4800-15ac-419a-ab58-b18619cc3d72 /users ext4 defaults 0 0
    mkdir /users
    mount -a        
    
    2、 新建用户archlinux,要求其家目录为/users/archlinux,而后su切换至archlinux用户,复制/etc/pam.d目录至自己的家目录
    useradd -d /users/archlinux archlinux
    su - archlinux
    cp -r /etc/pam.d .
    exit        
    
    3、扩展testlv至7G,要求archlinux用户的文件不能丢失
    lvextend -r -L +2G /dev/test/testlv
    
    4、收缩testlv至3G,要求archlinux用户的文件不能丢失
    umount /users
    e2fsck -f /dev/test/testlv
    resize2fs /dev/test/testlv 3G
    lvreduce -L 3G /dev/test/testlv
    mount -a        
    
    5、对testlv创建快照,并尝试基于快照备份数据,验证快照的功能
    lvcreate -L 1G -s -n test_snapshot -pr /dev/test/testlv
    mkdir /mnt/snap
    mount /dev/test/test_snapshot /mnt/snap/
    cd /mnt/snap
    tar -zcf /data/archlinux.tar.gz archlinux/
    #验证快照
    rm -rf /users/archlinux/*
    umount /users
    umount /mnt/snap
    lvconvert --merge /dev/test/test_snapshot
    mount -a    
    

    相关文章

      网友评论

        本文标题:12-磁盘储存和文件管理

        本文链接:https://www.haomeiwen.com/subject/koqafhtx.html