美文网首页大数据生态圈
大数据在实际生产环境的前期准备

大数据在实际生产环境的前期准备

作者: z小赵 | 来源:发表于2017-10-04 11:40 被阅读25次

    生产环境的准备主要分为两个方面讲解,分 别为系统层面和软件层面,废话不多说,搞起来!

    一.系统层面:

    1.IP地址的选择,尽可能的将集群的IP地址选在同一个网段

    2.主机名的命名方式 :

    eg:  bigdata-cdh01.test.com. bigdata-cdh02.test.com. bigdata-cdh03.test.com

    3.修改各台主机的主机名,运行如下命令(必须是在root用户下才能修改主机名):

    hostname  bigdata-cdh01.test.com         临时修改,系统重启失效

    vi   /etc/sysconfig/network                        永久修改主机名,修改结果如下图所示

    修改后的主机名

    4.在每台机器上做IP与主机名的映射处理,执行如下命令,然后禁用IPv6:(注意:如果是在windows下访问,在win下也要配置,在root用户下执行

    vi     /etc/hosts        执行结果如下截图所示

    echo  "alia  net-pf-10  off"   >>  /etc/modprobe.d/dist.conf

    echo "alia  ipv6  off"  >> /etc/modprobe.d/dist.conf

    5.创建普通用户,用于安装软件,执行如下命令(注意:此操作必须在root用户下执行,并且每台机器的这个用户名和密码必须必须必须一致):

    adducer   test              后面为用户名,根据自己的情况自己定义

    passed     test              后面为密码,根据自己的情况定义

    su   -   用户名               切换账户名

    6.配置普通用户的sudo权限,执行如下命令(注意:此操作依旧在root用户下执行):

    chmod   u+w       /etc/sudoers         为该文件附写文件的权限

    vi   /etc/sudoers                                编辑该文件

    在文件的首行添加的内容如下:

    test(用户名)     ALL=(root)NOPASSWD:ALL

    chmod    u-w       /etc/sudoers         收回权限

    7.关闭防火墙,禁用Selinux:

    sudo   chkconfig  iptables  off        永久关闭防火墙

    sudo  vi  /etc/sysconfig/selinux      修改selinux,修改内容如下截图所示

    8.卸载Linux自带的JDK,执行如下命令:

    sudo  rpm  -qa | grep  java

    sudo rpm  -e  --nodeps   XXXXXXXX

    9.设置文件打开数据和用户的最大进程:

    查看文件打开数量(ulimit  -a)

    查看用户的最大进程数(ulimit -u)

    执行如下命令修改这两个参数:

    sudo  vi  /etc/security/limits.conf

    添加的内容如下:

    *  soft  nofile  65535

    *  hard  nofile  65535

    *  soft   nproc   32000

    *  hard  nproc    32000

    二.软件层面的配置

    1.集群时间的同步(以集群中的一台机器作为时间服务器):

    sudo  rpm  -qa | grep  ntp             查看是否安装了ntp服务

    sudo vim  /etc/ntp.conf                 修改ntp的配置文件,修改内容如下图1所示

    sudo vim /etc/sysconfig/ntpd       同步硬件时间,增加如下一行内容即可

    SYNC_HWCLOCK=yes

    sudo  service  ntpd  status        查看ntp是否启动

    sudo service  ntpd  start            启动ntp服务

    sudo  chkconfig  ntpd  on           永久启动ntp服务

    在要执行时间同步的机器上做一个定时任务,执行如下命令,必须在root用户下

    crontab  -l        查看定时任务

    crontab  -e       编写定时任务,编辑内容如下:

    0-59/10 * * * *  /usr/sbin/ntpdate  bigdata-cdh01.test.com (这里指的是被指定的时间服务器)

    图1

            至此,基础配置已全部完成,然后将所有机器全部重启,下一篇将介绍本地yum源的搭建方式。欢迎关注,如需转载,请注明转载来源,谢谢!

    相关文章

      网友评论

        本文标题:大数据在实际生产环境的前期准备

        本文链接:https://www.haomeiwen.com/subject/djvqyxtx.html