美文网首页
ceph 搭建低成本冷存储和高性能存储系统介绍

ceph 搭建低成本冷存储和高性能存储系统介绍

作者: wayyyy | 来源:发表于2023-05-14 12:16 被阅读0次

对于存储系统而言,性能与成本就像天平的两端,我们的存储系统目标就是在这两者之间取得平衡。
下面介绍3种需求场景:极低成本,极致性能以及成本和性能较为均衡。

极低成本

极低成本一般用在搭建冷存储集群环境中。

硬件设计
  1. 在单位机柜中放更多的硬盘,正常的4U48盘位的密度太低,需要引入JBOD设备,通常一个4U服务器满配下加带6个JBOD设备,每个JBOD设备最多可放置102块硬盘,如果机架可以支持8个高密度JBOD,则可以接近安装1000块磁盘。

  2. 在单位硬盘下提供更大的容量,采用PMR技术,单盘最大容量可以达到12TB,引入SMR技术,单盘最大容量可以达到18TB甚至更高

软件设计
  1. 纠删码是一种数据保护方法,它将数据分割成片段,把冗余的数据块扩展,编码,并将其存储到不同的位置。副本策略和纠删码是存储领域常见的两种数据冗余技术。对比如下:

    冗余技术 磁盘利用率 计算开销 网络消耗 恢复效率
    多副本(3副本) 1/3 几乎没有 较低 较高
    纠删码 n/(n+m) 较高 较低

极致性能

Ceph 具备优良的可扩展性以及分布式的体系结构,Ceph 系统中的所有工作负载都会均匀地分布到,分配到整个集群的各个节点上,每个存储节点包含数个OSD,因此,Ceph性能是集群节点内所有OSD性能的叠加。
粗狂的集群扩展也伴随着成本的增加,以此在满足ceph存储集群高性能需求的同时,也要更多地关注存储集群单位存储容量可发挥地性能(IOPS/TB)以及单位成本可发挥地性能(IOPS/元)。ceph组件中,对存储性能影响最大地是OSD,为了推高单OSD性能,我们自然能想到地是利用SSD。对于SSD存储性能介质的发挥,业界较为常用的做法是对SSD存储介质做多分区策略(4分区),划分后的每个分区分别承载一个OSD进程。

image.png

成本和性能较为均衡

在当前阶段下,同样容量规格的SSD成本仍然显著高于HDD成本,如何有效组织SSD与HDD,实现存储成本与性能的均衡,仍然有重要的意义。实现这一目标,需要依赖于智能的数据分层存储方案,即缓存方案。

Bcache

Bcache 是Linux 内核块设备层Cache,从内核3.10开始,Bcache 进入主线。Bcache 支持 Write Back,Write Through,Write Around 三种策略,默认是Write Through 模式。

  • Write Back

  • Write Through

  • Write Around

缓存替换方式支持LRU,FIFO,Random 三种。

Bcache 中以 Cache set 来划分不同存储集合,一个Cache set 中包含一个或多个缓存设备(一般是SSD),一个或多个后端设备(一般是HDD)。Bcache 对外输出给用户使用的是/dev/bcache 这种设备,每个bcache设备都与一个后端物理盘一一对应。

image.png

相关文章

  • Ceph集群监控Prometheus+Grafana

    Ceph是一个分布式存储系统。同时Ceph除了能提供块存储,还可以提供文件存储、对象存储。 这里不介绍如何搭建Ce...

  • ⑤ K8s使用Ceph作为存储、监控、日常运维管理

    Ceph分布式存储学习文档① Ceph分布式存储系统简介② Ceph版本选择与安装③ Ceph—RBD块设备介绍与...

  • ceph安装配置

    简介 ceph是一个开源分布式存储系统,支持PB级别的存储,支持对象存储,块存储和文件存储,高性能,高可用,可扩展...

  • centos7简单搭建ceph集群

    一、ceph介绍 1、Ceph基础介绍   Ceph是一个可靠地、自动重均衡、自动恢复的分布式存储系统,根据场景划...

  • 【理论学习】Ceph功能模块与RADOS

    Ceph架构图 Ceph存储系统的逻辑层次结构大致划分为4部分: ◎ 基础存储系统RADOS ...

  • ceph分布式存储学习指南

    ceph是模块化和可扩展的,并且有容错设计。先进的分布式存储系统。ceph凭借其高可扩展性、高可靠性、高性能的特点...

  • Ceph 基础内容

    Ceph简介 ceph的优势 ceph架构 基础存储系统 基础库librados: 高层应用接口 Ceph的基本组...

  • 学一点Ceph知识:初识Ceph

    Ceph是什么? Ceph是一个开源的分布式存储系统,可大规模扩展、高性能、无单点故障,在普通的服务器上可以支持到...

  • Ceph介绍及原理架构分享

    1. Ceph架构简介及使用场景介绍 1.1 Ceph简介 Ceph是一个统一的分布式存储系统,设计初衷是提供较好...

  • 【深度知识】Ceph功能,原理及架构总结

    1. Ceph架构简介及使用场景介绍 1.1 Ceph简介 Ceph是一个统一的分布式存储系统,设计初衷是提供较好...

网友评论

      本文标题:ceph 搭建低成本冷存储和高性能存储系统介绍

      本文链接:https://www.haomeiwen.com/subject/oerhsdtx.html