早在2010年的时候,facebook就已经存储了2600亿级别的照片了,并且每周都新增大约10亿照片(大约60TB的存储),为了解决照片的海量存储以及访问效率的问题,Facebook的发布了一篇论文 《Finding a needle in Haystack: Facebook's photo storage》
总的说来,是通过将 metadata 缩小,并将其加载到内存中,从而提升 metadata lookup 的效率。
go 语言有类似的实现:https://github.com/seaweedfs/seaweedfs
网友评论