这两天把ceph环境搭建起来了,踩了无数坑,愤怒之下去QQ搜了一个ceph中国社区群(QQ的人脉和资源还是无敌的),解决了大部分入门坑,也给自己挖了很深的进阶坑,预定ceph工具书一本,准备开始啃啃。
以下是最近碰到的坑及解决办法,给自己提醒。
- ceph-deploy new 一定要在初始化执行
- ceph-deploy mon create-initial 会在本地文件生成keyring,并复制到mon节点
- ceph 命令不可执行,提示权限问题,修改/etc/ceph/ceph.client.keyring 为所有可读
- ceph-deploy mon add 添加失败,原因本地ceph.mon.keyring和已有mon的keyring不同,修改本地文件后,清除新mon的key和进程,重新执行
- mon的个数为计数,偶数会有浪费
- xfs系统不可shrink,否则mount时提示:cannot read superblock,需重新mkfs.xfs格式化
- image可挂载到2台机器,但无法实时更新,需要unmap后再mount才能显示最新数据
- PG(placement group)数量计算方法: 100*osd.num/replica.num
- 给虚拟机挂载rbd后,将配置文件删除,用户没有权限查看,新加,删除image,只能使用(暂时替代keyring权限)
后续问题:
- 用户使用权限问题
- 如何给多个机器挂载,用作下载集群
- 自定义crush map
- ceph radosgw 测试
测试了一下挂载ceph rbd的速度,上下行都是200MB+,速度完爆glusterfs,顺便再推荐一下磨神关于mon数量的测试,浅显易懂,赞一个。
http://www.zphj1987.com/2016/05/26/mon到底能坏几个/
网友评论