1.FastDFS简介
FastDFS是一个开源的轻量级分布式文件系统,功能包括:文件存储、文件同步、文件访问(文件上传、文件下载)等,解决了大容量存储和负载均衡的问题。特别适合中小文件(建议范围:4KB < file_size <500MB),对以文件为载体的在线服务,如相册网站、视频网站等。
FastDFS的工作原理
- FastDFS 服务端有两个角色:跟踪器(tracker)和存储节点(storage)。跟踪器主要做调度工作,在访问上起负载均衡的作用。存储节点存储文件,完成文 件管理的所有功能:存储、同步和提供存取接口,FastDFS同时对文件的meta data进行管理。所谓文件的meta data就是文件的相关属性,以键值对(key value pair)方式表示,如:width=1024,其中的key为width,value为1024。文件meta data是文件属性列表,可以包含多个键值对。
- 跟踪器和存储节点都可以由一台多台服务器构成。跟踪器和存储节点中的服务器均可以随时增加或下线而不会影响线上服务。其中跟踪器中的所有服务器都是对等的,可以根据服务器的压力情况随时增加或减少。
- 为了支持大容量,存储节点(服务器)采用了分卷(或分组)的组织方式。存储系统由一个或多个卷组成,卷与卷之间的文件是相互独立的,所有卷 的文件容量累加就是整个存储系统中的文件容量。一个卷可以由一台或多台存储服务器组成,一个卷下的存储服务器中的文件都是相同的,卷中的多台存储服务器起 到了冗余备份和负载均衡的作用。
- 在卷中增加服务器时,同步已有的文件由系统自动完成,同步完成后,系统自动将新增服务器切换到线上提供服务。
- 当存储空间不足或即将耗尽时,可以动态添加卷。只需要增加一台或多台服务器,并将它们配置为一个新的卷,这样就扩大了存储系统的容量。
- FastDFS中的文件标识分为两个部分:卷名和文件名,二者缺一不可。
FastDFS系统架构图
FastDFS服务端有两个角色:跟踪器(tracker)和存储节点(storage)。跟踪器主要做调度工作,在访问上起负载均衡的作用。
2.FastDFS的安装
(1)准备工作-安装libevent
FastDFS内部绑定了libevent作为http服务器,必须安装libevent。
1.判断是否安装了libevent
命令:rpm -qa|grep libevent。如果有输出,则说明已经安装了libevent;Fastdfs对libevent版本有要求,所以先删除系统自带的libevent,然后安装最新稳定版本。
2.卸载已有的libevent
命令:rpm -e libevent –nodeps
3.安装最新的libevent(例如:libevent-2.0.21-stable.tar.gz)
命令:tar zvxf libevent-2.0.21-stable.tar.gz
命令:cd libevent-2.0.21-stable
命令:./configure --prefix=/usr
命令:make
命令:make install
4.检查是否安装成功
命令:ls –al /usr/lib |grep libevent(或者ls –al /usr/local/lib |grep libevent) 若有结果,则说明安装正确
5.为libevent创建软链接到/lib库下(64位系统对应/lib64)
假设libevent 的安装目录在/usr/local/lib/下
命令:ln –s /usr/local/lib/libevent-2.0.so.5 /usr/lib/libevent-2.0.so.5
命令:ln –s /usr/local/lib/libevent-2.0.so.5 /usr/lib64/libevent-2.0.so.5(64位系统)
(2)安装 FastDFS
1.下载 FastDFS 源程序FastDFS_v3.11.tar.gz(FastDFS_v4.06.tar.gz)。
2.解压FastDFS_v3.11.tar.gz
3.修改make.sh文件
由于要使用内置的 http 服务,因此编辑 %FastDFS%/make.sh 文件,找到#WITH_HTTPD=1修改成WITH_HTTPD=1以支持 http。支持HTTP服务可以使用浏览器下载文件。
4.安装
进入 %FastDFS% 目录,执行:
sudo ./make.sh
sudo ./make.sh install
(3)修改配置文件
1.FastDFS的配置文件在/etc/fdfs目录下包含如下文件
client.conf 客户端上传配置文件
storage.conf 文件存储服务器配置文件
tracker.conf 负责均衡调度服务器配置文件
http.conf http服务器配置文件
2.配置tracker Server(tracker.conf)
修改用于存储日志及storage server等文件的目录:
base_path=/home/yuqing/fastdfs --> base_path=/home/soar/fastdfs_tracker
修改将来http下载文件的端口号:
http.server_port= 8080 --> http.server_port= 8090
设置http服务支持:
##include http.conf --> #include http.conf
3.配置storage server(storage.conf)
修改用于存储storage相关的log、group内的相关信息的目录:
base_path=/home/yuqing/fastdfs -> /home/soar/fastdfs_storge
设置tracker Server的端口号:
tracker_server=192.168.209.121 : 22122 -> tracker_server=10.0.2.15 : 22122
设置http服务支持:
##include http.conf ->#include http.conf
4.配置client(client.conf)
设置tracker Server的端口号:
tracker_server=192.168.209.121:22122 -> tracker_server=10.0.2.15:22122
修改将来http下载文件的端口号:
http.tracker_server_port=8080 ->http.tracker_server_port=8090
设置http服务支持:
##include http.conf ->#include http.conf
(4)启服动务与停止服务
1.tracker Server
启动命令:/usr/local/bin/fdfs_trackerd /etc/fdfs/tracker.conf
停止命令:/usr/local/bin/stop.sh /usr/local/bin/fdfs_trackerd/etc/fdfs/tracker.conf
重启命令:/usr/local/bin/restart.sh /usr/local/bin/fdfs_trackered
2.storage server
启动命令:/usr/local/bin/fdfs_storaged /etc/fdfs/storage.conf
停止命令:/usr/local/bin/stop.sh /usr/local/bin/fdfs_storaged /etc/fdfs/storage.conf
重启命令:/usr/local/bin/restart.sh /usr/local/bin/fdfs_storaged
(5)测试功能
文件上传:/usr/local/bin/fdfs_test /etc/fdfs/client.conf upload /etc/fdfs/test.jpg
下载文件:/usr/local/bin/fdfs_download_file /etc/fdfs/client.conf download group1/00/00/CowXd1BQhA7jF-mjAAAALrcEX_4772.txt
(6)常用命令
文件上传:fdfs_upload_file <config_file> upload <local_filename>
/usr/local/bin/fdfs_upload_file /etc/fdfs/client.conf upload /home/test.jpg
文件下载:fdfs_download_file <config_file> <file_id> download <local_filename>
/usr/local/bin/fdfs_download_file /etc/fdfs/client.conf download group1/00/00/CowXd1BQhA7jF-mjAAAALrcEX_4772.txt
文件删除:fdfs_delete_file <config_file>
groupid/file_name /usr/local/bin/fdfs_delete_file /etc/fdfs/client.conf <file_url>(group3/…)
文件查看:dfs_file_info <config_file> <remote_file-id>
/usr/local/bin/fdfs_file_info /etc/fdfs/client.conf <file_url>(group3/…)
文件附加:fdfs_append_file <config_filename> <appender_file_id> <local_filename>
/usr/local/bin/fdfs_append_file /etc/fdfs/client.conf <file_url>(group3/…)
存储服务器信息查看:fdfs_monitor <config_file> [-h <tracker_server>] [list|delete <group_name> [storage_ip]]
/usr/local/bin/fdfs_monitor /etc/fdfs/storage.conf -h 10.192.64.103 list
存储服务器踢出集群:fdfs_monitor <config_file> [-h <tracker_server>] [list|delete <group_name> [storage_ip]]
fdfs_monitor /etc/fdfs/storage.tracker -h 10.192.64.103 delete group1 10.192.64.104
查看集群整体状态:/usr/local/bin/fdfs_monitor /etc/fdfs/storage.conf
网友评论