美文网首页工作生活
大数据技术之CM安装------2(含大数据学习教程)

大数据技术之CM安装------2(含大数据学习教程)

作者: ItStar | 来源:发表于2019-06-30 00:19 被阅读0次

    大数据学习资料领取地址(免费)无套路

    第2章 环境要求

    1.1 内存分配

    将3台虚拟机分配好内存 建议8G、4G、4G

    1.2 本次安装需要的jar包

    #注意:必须是Oracle JDK、不要使用OpenJDK

    1.jdk-8u144-linux-x64.tar.gz

    2.CDH-5.12.1-1.cdh5.12.1.p0.3-el7.parcel

    3.CDH-5.12.1-1.cdh5.12.1.p0.3-el7.parcel.sha

    4.cloudera-manager-centos7-cm5.12.1_x86_64.tar.gz

    5.manifest.json

    6.mysql5.7

    1.3 更改Yum源

    在三台节点(所有agent的节点)上执行下载第三方依赖

    更改为阿里yum源

    wget -O /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repo

    yum clean all

    yum makecache

    1.4 安装JDK

    #建议放在在这个目录下

    tar -zxvf  jdk-8u144-linux-x64.tar.gz -C /usr/java/

    #有时候会有权限问题的坑

    chown -R root:root /usr/java/

    1.5 安装配置mysql

    此处略,看之前的文档及视频

    注意点:此处用的是5.7的版本,远程使用时,记得更改给root改为"%"权限

    (1)集群监控数据库

    create database amon DEFAULT CHARSET utf8 COLLATE utf8_general_ci;

    grant all on amon.* TO 'amon'@'%' IDENTIFIED BY 'amon';

    (2)hive数据库

    create database hive DEFAULT CHARSET utf8 COLLATE utf8_general_ci;

    grant all on hive.* TO 'hive'@'%' IDENTIFIED BY 'hive';

    (3)oozie数据库

    create database oozie DEFAULT CHARSET utf8 COLLATE utf8_general_ci;

    grant all on oozie.* TO 'oozie'@'%' IDENTIFIED BY 'oozie';

    (4)hue数据库

    create database hue DEFAULT CHARSET utf8 COLLATE utf8_general_ci;

    grant all on oozie.* TO 'hue'@'%' IDENTIFIED BY 'hue';

    1.6 关闭SELINUX和防火墙

    临时关闭:

    setenforce 0

    修改配置文件/etc/selinux/config(重启生效)

    #将SELINUX=enforcing 改为 SELINUX=disabled

    #关闭防火墙

    systemctl stop firewalld

    #禁用防火墙

    systemctl disable firewalld

    #查看防火墙是否关闭

    systemctl status firewalld

    1.7 hosts映射

    vi /etc/hosts

    192.168.1.111 bigdata111

    192.168.1.112 bigdata112

    192.168.1.113 bigdata113

    :企业中不设置免密

    1.8 下载第三方依赖

    在三台节点(所有agent的节点)上执行下载第三方依赖

    yum -y install chkconfig python bind-utils psmisc libxslt zlib sqlite cyrus-sasl-plain cyrus-sasl-gssapi fuse fuse-libs redhat-lsb

    1.9 ssh免密登录

    #生成公钥

    ssh-keygen -t esa

    #拷贝公钥到其他节点(九遍)

    ssh-copy-id bigdata111

    ssh-copy-id bigdata112

    ssh-copy-id bigdata113

    1.10 NTP时间和时钟同步服务(可略过)

    #查看时间帮助

    timedatectl --help

    #设置为上海的时区

    timedatectl set-timezone Asia/Shanghai

    #生产环境中一般会手动安装NTP服务(自己练习一下步骤可以省略)

    yum -y install ntp

    vi  /etc/ntp.conf

    添加如下

    #time  前四行是使用网络时间

    server 0.asia.pool.ntp.org

    server 1.asia.pool.ntp.org

    server 2.asia.pool.ntp.org

    server 3.asia.pool.ntp.org

    #生产中不能使用联网的话, 使用本地时间

    server 192.168.1.0 iburst local clock

    #可以让192.168.1网段下所有IP都可以同步

    restrict 192.168.1.0 mask 255.255.255.0 nomodify notrap

    #启动ntpd (仅在主节点)

    systemctl start ntpd

    #查看ntpd的状态

    systemctl status ntpd

    #关闭从节点时间同步

    systemctl stop ntpd

    systemctl disable ntpd

    #查询ntpdate

    which ntpdate

    #让所有从节点与主节点同步 \ 注:集群中会每几个小时同步一次,保证时间一致

    /usr/sbin/ntpdate bigdata111

    #列出所有的时区

    timedatectl list-timezones

    相关文章

      网友评论

        本文标题:大数据技术之CM安装------2(含大数据学习教程)

        本文链接:https://www.haomeiwen.com/subject/ietvcctx.html