美文网首页
redis、mogilefs、fastdfs

redis、mogilefs、fastdfs

作者: haoxi2018 | 来源:发表于2019-04-17 22:08 被阅读0次

    (第二十二周作业)

    1、搭建redis,实现redis的复制管理

    1.1 redis安装步骤

    下载redis安装包
    $ wget http://download.redis.io/releases/redis-5.0.4.tar.gz
    解压
    $ tar xzf redis-5.0.4.tar.gz
    编译
    $ cd redis-5.0.4
    make
    启动redis服务,指定配置文件
    $ cd src
    $ ./redis-server ../redis.conf
    使用redis-cli进行测试
    $ ./redis-cli
    redis>set akey avalue
    redis>get akey

    1.2 实现主从复制

    需要两台主机,A机B机
    A机:192.168.184.30 redis主机
    B机:192.168.184.31 redis从机
    1)A机B机都安装redis
    安装步骤前面已说明。
    2)在B机执行slaveof命令
    在B机,执行:
    ./redis-cli
    redis>SLAVEOF 192.168.184.30 6379
    3)查看主从复制信息
    redis>info replication
    主机显示role:master
    从机显示role:slave
    主从关系建立成功。

    2、搭建mogilefs,与nginx做整合

    MogileFS是一个开源的分布式文件系统,用于组建分布式文件集群
    因为实验环境所限,准备两台虚拟机,
    A机:192.168.184.40 安装Nginx、tracker、mogstored
    B机:192.168.184.41 安装MariaDB数据库、tracker、mogstored

    2.1 B机安装MariaDB数据库

    #yum -y install MariaDB-server MariaDB-client
    创建用户并授权
    mysql>grant all on *.* to 'root'@'192.168.184.%' identified by 'magedu'
    mysql>grant all on mogilefs.* to 'moguser'@'192.168.184.%' identified by 'magedu'
    mysql>flush privileges;

    2.2 A机和B机安装mogilefs

    下载以下文件到/root/mogilefs/目录下:
    MogileFS-Server-2.46-2.el6.noarch.rpm
    Perlbal-1.78-1.el6.noarch.rpm
    MogileFS-Server-mogilefsd-2.46-2.el6.noarch.rpm 
    perl-MogileFS-Client-1.14-1.el6.noarch.rpm
    MogileFS-Server-mogstored-2.46-2.el6.noarch.rpm 
    perl-Net-Netmask-1.9015-8.el6.noarch.rpm
    MogileFS-Utils-2.19-1.el6.noarch.rpm           
    perl-Perlbal-1.78-1.el6.noarch.rpm
    1)安装rpm软件包
    #cd /root/mogilefs
    #yum install MogileFS-* perl_* perl-IO-AIO -y
    2)配置文件修改
    配置tracker
    # vim /etc/mogilefs/mogilefsd.conf

    daemonize = 1  #设置为1表示启动为守护进程
    pidfile = /var/run/mogilefsd/mogilefsd.pid
    db_dsn = DBI:mysql:mogilefs:host=192.168.184.41  #定义数据库名及主机
    db_user = moguser                                #数据库用户名
    db_pass = magedu                                #数据库用户密码
    listen = 0.0.0.0:7001                            #监听地址
    query_jobs = 10 #启动多少个查询工作线程
    delete_jobs = 1 #启动多少个删除工作线程
    replicate_jobs = 5 #启动多少个复制工作线程
    reaper_jobs = 1 #启动多少个用于回收资源的线程

    配置mogstored
    # vim /etc/mogilefs/mogstored.conf

    maxconns = 10000                                #最大连接数
    httplisten = 0.0.0.0:7500                      #http监听地址
    mgmtlisten = 0.0.0.0:7501                      #mogilefs监听地址
    docroot = /mogdata                              #数据存放位置

    3)创建数据目录(建议为独立磁盘设备)
    # useradd mogilefs
    # mkdir -p /mogdata/dev1 (A机执行)
    # mkdir -p /mogdata/dev2 (B机执行)
    # chown -R mogilefs:mogilefs /mongdata/
    4)B机执行创建数据库
    # mogdbsetup  --dbhost=192.168.184.41 --dbrootuser=root --dbrootpass=magedu --dbuser=moguser --dbpass=magedu --dbname=mogilefs
    -yes
    5)A机和B机都启动mogilefsd和mogstored服务
    # service mogilefsd start
    # service mogstored start

    2.3 A机执行添加节点和设备

    1)添加节点
    # mogadm --trackers=192.168.184.40:7001 host add nodeA --ip=192.168.184.40 --status=alive
    # mogadm --trackers=192.168.184.40:7001 host add nodeB --ip=192.168.184.41 --status=alive
    2) 添加设备
    # mogadm --trackers=192.168.184.40:7001 device add nodeA 1
    # mogadm --trackers=192.168.184.40:7001 device add nodeB 1
    检查状态
    # mogadm --trackers=192.168.184.40:7001 check
    3)创建domain
    # mogadm --trackers=192.168.184.40:7001 domain add files
    # mogadm --trackers=192.168.184.40:7001 domain add html
    # mogadm --trackers=192.168.184.40:7001 domain add images
    查看domain状态
    # mogadm --trackers=192.168.184.40:7001 domain list
    4)上传操作
    # mogupload --trackers=192.168.184.40:7001 --domain=html --key='index.html' --file='/root/index.html'
    查看上传文件
    # moglistkeys --trackers=192.168.184.40:7001 --domain=html
    获取文件的fid
    # mogfileinfo --trackers=192.168.184.40:7001 --domain=html --key='index.html'
    根据命令显示结果中的http://...地址信息可能通过网页来查看

    2.4 配置nginx反向代理

    A机安装nginx
    安装openssl库
    # yum install -y openssl openssl-devel
    安装gcc:
    # yum install gcc-c++ 
    安装 PCRE 
    # yum install -y pcre pcre-devel
    安装zlib库
    # yum install -y zlib zlib-devel
    下载nginx:  nginx-1.14.2.tar.gz
    下载nginx的mogilefs模块:nginx_mogilefs_module-1.0.4.tar.gz
    # tar -zxf nginx_mogilefs_module-1.0.4.tar.gz
    解压,编译安装
    # tar -zxvf nginx-1.14.2.tar.gz
    # cd nginx-1.14.2
    # ./configure --add-module=../nginx_mogilefs_module-1.0.4
    # make && make install
    启动nginx
    # cd /usr/local/nginx/sbin
    # ./nginx
    配置nginx
    vim /etc/nginx/nginx.conf

    upstream trackers{
        server 192.168.184.40:7001;
        server 192.168.184.41:7001;
    }
    server{
        listen 80;
        location ~* /images/ {
    mogilefs_tracker trackers;
    mogilefs_domain images;
    mogilefs_pass {
        proxy_pass $mogilefs_path;
        proxy_hide_header Content-Type;
        proxy_buffering off;
    }
        }
        location ~* /html/ {
    mogilefs_tracker trackers;
    mogilefs_domain html;
    mogilefs_pass {
        proxy_pass $mogilefs_path;
        proxy_hide_header Content-Type;
        proxy_buffering off;
    }
        }
        location ~* /files/ {
    allow 192.168.184.0/24;
    deny all;
    mogilefs_tracker trackers;
    mogilefs_domain files;
    mogilefs_methods PUT DELETE;
    mogilefs_pass {
        proxy_pass $mogilefs_path;
        proxy_hide_header Content-Type;
        proxy_buffering off;
    }
        }
    }

    重新加载nginx配置文件

    # cd /usr/local/nginx/sbin
    # ./nginx -t; nginx -s reload
    访问测试
    http://192.168.184.40/html/index.html

    3、搭建fastdfs

    FastDFS 是一个开源的高性能分布式文件系统(DFS)
    实验需要两台机器:
    A机:tracker服务器  192.168.184.133
    B机:storage服务器  192.168.184.134

    3.1 软件安装

    A机和B机都要安装
    1)下载安装 libfastcommon
    #wget https://nchc.dl.sourceforge.net/project/libfastcommon/libfastcommon_v1.01.tar.gz
    #tar -zxf libfastcommon_v1.01.tar.gz
    #cd libfastcommon_v1.01
    #./make.sh
    #./make.sh install
    做软链接引用到/usr/local/lib
    # ln -s /usr/lib64/libfastcommon.so /usr/local/lib/libfastcommon.so
    # ln -s /usr/lib64/libfastcommon.so /usr/lib/libfastcommon.so
    # ln -s /usr/lib64/libfdfsclient.so /usr/local/lib/libfdfsclient.so
    # ln -s /usr/lib64/libfdfsclient.so /usr/lib/libfdfsclient.so
    2)下载安装FastDFS
    在SourceForge.net网站下载FastDFS_v5.08.tar.gz
    #tar -zxf FastDFS_v5.08.tar.gz
    #cd  FastDFS_v5.08
    # ./make.sh
    # ./make.sh install
    做软链接引用到/usr/local/lib
    # ln -s /usr/bin/fdfs_trackerd  /usr/local/bin
    # ln -s /usr/bin/fdfs_storaged  /usr/local/bin
    # ln -s /usr/bin/stop.sh        /usr/local/bin
    # ln -s /usr/bin/restart.sh      /usr/local/bin

    3.2 修改配置文件

    1)A机B机都要修改hosts文件
    # vi /etc/hosts
    增加一行
    192.168.184.133  file.magedu.com
    关闭防火墙
    #service firewalld stop
    2)A机要执行
    创建跟踪器配置文件
    # cd /etc/fdfs
    # cp tracker.conf.sample tracker.conf
    # vi tracker.conf

    disabled=false  # 配置文件是否失效,true为失效
    port=22122      # 提供服务的端口
    base_path=/opt/fastdfs/tracker  # Tracker 数据和日志目录
    http.server_port=80    # HTTP 服务端口

    创建配置文件中对应的目录
    mkdir -p /opt/fastdfs/tracker
    3)B机要执行
    创建存储器配置文件
    # cd /etc/fdfs
    # cp storage.conf.sample storage.conf
    # vi storage.conf

    disabled=false  # 配置文件是否失效,true为失效
    group_name=group1  # 指定此 storage server 所在组
    port=23000     # storage server 服务端口
    heart_beat_interval=30  # 心跳间隔时间,单位为秒(由storage向trackerserver发送心跳)
    base_path=/opt/fastdfs/storage  #Storage 数据和日志目录
    store_path_count=1  # 配置存放文件的基路径数目
    store_path0=/opt/fastdfs/file  #逐一配置多条 store_path 路径,起始索引号0
    subdir_count_per_path=256  #配置存放文件的目录个数
    tracker_server=file.magedu.com:22122  #tracker_server 的列表(可以有多个)
    sync_start_time=00:00  #允许系统同步的时间段起始时间
    sync_end_time=23:59 #允许系统同步的时间段结束时间
    http.server_port=80 # 访问端口

    创建配置中对应的目录
    mkdir -p /opt/fastdfs/storage
    mkdir -p /opt/fastdfs/file

    3.3 启动服务

    1)A机启动Tracker
    #service fdfs_trackerd start
    #systemctl enable fdfs_trackerd.service
    Tracker服务启动成功后,会在/opt/fastdfs/tracker下创建data、logs两个子目录
    2)B机启动Storage
    # service fdfs_storaged start
    #systemctl enable fdfs_storaged.service
    Storage 启动成功后,在/opt/fastdfs/storage下创建data、logs两个子目录,在/opt/fastdfs/file下创建了00--FF的256个子目录。
    3)验证
    在A机做文件上传实验,修改client配置文件
    # cd /etc/fdfs
    # cp client.conf.sample client.conf
    # vim client.conf
    base_path=/opt/fastdfs/client  # Client 的数据和日志目录
    tracker_server=file.magedu.com:22122  # Tracker服务与端口
    上传文件使用命令
    # /usr/bin/fdfs_upload_file /etc/fdfs/client.conf app.jpg
    上传成功后返回文件ID

    相关文章

      网友评论

          本文标题:redis、mogilefs、fastdfs

          本文链接:https://www.haomeiwen.com/subject/ijsziqtx.html