金沙澳门官网登录-www.js8.com-金沙澳门官网下载app

Centos 7 离线安装Cloudera Manager5 和CDH5.13.0

四、踩过的坑

  1. 数据库配置
    Centos 7 离线安装Cloudera Manager5 和CDH5.13.0。标题陈述:先导给Cloudera Manager配置数据库的时候,找的是英特网的命令,/opt/cm-5.13.0/share/cmf/schema/scm_prepare_database.sh mysql cm -hlocalhost -uroot -p --scm-host localhost scm scm scmCentos 7 离线安装Cloudera Manager5 和CDH5.13.0。,一贯报错,不通晓怎么样难点,报错消息java.sql.SQLException: Your password does not satisfy the current policy requirements,种种改密码复杂度及减弱数据库密码复杂度供给都十分,疑心是CDH版本更新命令参数爆发了变动
    杀鸡取蛋办法,去掉风流洒脱部分参数,
    /opt/cm-5.13.0/share/cmf/schema/scm_prepare_database.sh mysql -uroot -p scm scm

  2. cloudera-scm-server启动,cm-5.13.0/etc/init.d/cloudera-scm-server:行109: pstree: 未找到命令,centos最小安装版缺乏软件包,安装就能够,yum install psmisc

  3. 半路安装失利,重新安装

    闭馆全体服务

     #主节点
     [root@CDH-DEV1 opt]# /opt/cm-5.13.0/etc/init.d/cloudera-scm-server stop
     #主节点及其他节点
     [root@CDH-DEV1 opt]# /opt/cm-5.13.0/etc/init.d/cloudera-scm-agent stop
    

    删除agent uuid

     rm -rf /opt/cm-5.13.0/lib/cloudera-scm-agent/*
    

    去除数据库scm
    重新配置数据库
    /opt/cm-5.13.0/share/cmf/schema/scm_prepare_database.sh mysql -hlocalhost -uroot -p scm scm
    起步Cloudera server和agent,遵照事先步骤安装就可以

大器晚成、早先时期企图

  1. 设置情况
    系统安插:

     系统:centos 7 最小安装版 64位
     内存:10G 10G 10G 8G
    

    四台机器组成小集群(物理机)

     CDH-DEV1 CDH-DEV2 CDH-DEV3 CDH-DEV4
    
  2. 亟需下载的安装包

    • cloudera-manager-centos7-cm5.13.0_x86_Centos 7 离线安装Cloudera Manager5 和CDH5.13.0。64.tar.gz

    • CDH相关

    专心下载相应系统的安装包

         CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel
         CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel.sha1
         manifest.json
    
    • jdk-8u144-linux-x64.tar.gz

    • mysql-5.7.20-1.el7.x86_64.rpm-bundle.tar

    • mysql-connector-java-5.1.44-bin.jar

  3. Installing Cloudera Manager and CDH

写在前边

码字不易,感觉好点个赞哈~~

三、安装

  1. 安装Cloudera Manager Server 和Agent

(1)将下载好的cloudera-manager-centos7-cm5.13.0_x86_64.tar.gzCentos 7 离线安装Cloudera Manager5 和CDH5.13.0。解压到主节点的/opt/,解压出来的文书夹为clouderacm-4.13.0

(2)为Cloudera Manager建设构造数据库,此处须求前边下载好的mysql-connector-java-5.1.44-bin.jar

scp mysql-connector-java-5.1.44-bin.jar root@CDH-DEV1:/opt/cm-5.13.0/share/cmf/lib/
scp mysql-connector-java-5.1.44-bin.jar root@CDH-DEV1:/usr/share/java/

/opt/cm-5.13.0/share/cmf/schema/scm_prepare_database.sh mysql -uroot -p scm scm

(3)配置Agent

vim opt/cm-5.1.3/etc/cloudera-scm-agent/config.ini
server_host=CDH-DEV1

#拷贝到其他节点
[root@CDH-DEV1 parcel-repo]# scp -r /opt/cm-5.13.0/ root@cdh-dev2:/opt/
[root@CDH-DEV1 parcel-repo]# scp -r /opt/cm-5.13.0/ root@cdh-dev3:/opt/
[root@CDH-DEV1 parcel-repo]# scp -r /opt/cm-5.13.0/ root@cdh-dev4:/opt/

(4)计划parcels,将CDH相关文件拷贝到主节点/opt/cloudera/parcel-repo/

#相关文件    
CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel
CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel.sha1
manifest.json

#操作
scp mysql-connector-java-5.1.44-bin.jar root@CDH-DEV1:/opt/cm-5.13.0/share/cmf/lib/
scp mysql-connector-java-5.1.44-bin.jar root@CDH-DEV1:/usr/share/java/

需要将CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel.sha1改成CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel.sha,否则安装时会重新下载,很器重!!

[root@CDH-DEV1 parcel-repo]# mv CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel.sha1 CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel.sha

(5)启动

#主节点
/opt/cm-5.13.0/etc/init.d/cloudera-scm-server start

#主节点及其他节点
/opt/cm-5.13.0/etc/init.d/cloudera-scm-agent start

开行须求点时间,能够查看数据库scm中的hosts表,假设内部现身节点音讯表示server运维实现

  1. 起先安装Hadoop集群

登入界面,私下认可登陆客商名和密码都是admin

image.png

筛选安装版本

image.png

为CDH会集安装钦命主机

那边是在现阶段保管的主机里甄选机器,不要在新主机里搜寻,此外这一个地点显得的主机音讯必定要对,小编开端的时候因为主机名配置出难点,导致力不能及分辨主机名称和IP,就算agent的uuid是分配到了四台机械上,但是后边的安装不能够举行。

image.png

集合安装

image.png

会集安装--安装钦命parcel

分红时间受带宽影响,小编的是千兆调换机组成的局域网,速度还是能够,应该不到十秒钟

image.png

反省主机准确性

image.png

第二个警报直接在装有节点上推行echo 10 > /proc/sys/vm/swappiness
第二个警告依照上边包车型地铁印证,在具有节点上实行这两条命令
echo never > /sys/kernel/mm/transparent_hugepage/defrag >> /etc/rc.local
echo never > /sys/kernel/mm/transparent_hugepage/enabled >> /etc/rc.local

会集设置--选取安装服务--按需接收
会集设置--自定义剧中人物--暗中认可就能够
集结设置--数据库设置

image.png

此间hue老出难题,向来消弭不了,为了整条线走下来,何况目测hue基本用不到,所以选取了抛弃安装hue.
贴一下英特网找的多少个减轻措施,我都试了,未有缓慢解决,不明了怎么难点,未来商量钻探

  • 缺少mysql-community-libs-compat-5.7.20-1.el7.x86_64.rpm
  • 缺少python-lxml,yum install python-lxml

会集设置--审核--暗许就能够
集合设置--第一次设置--暗许就能够

开头设置服务
这里hive ,oozie会安装失利,战败消息如下。因为大家选取了MySQL作为hive元数据存款和储蓄,要求将mysql驱动拷贝到hive和oozie目录下

image.png

image.png

焚林而猎办法(要求在富有节点上实行)

cp /opt/cm-5.13.0/share/cmf/lib/mysql-connector-java-5.1.44-bin.jar /opt/cloudera/parcels/CDH-5.13.0-1.cdh5.13.0.p0.29/lib/hive/lib/
cp /opt/cm-5.13.0/share/cmf/lib/mysql-connector-java-5.1.44-bin.jar /var/lib/oozie/        

安装完结

image.png

二、情形布署

注意有所操作都要求运用root权限操作

  1. 中央配备(全体节点)

    修改 /etc/hostname

     CDH-DEV1
    

    改善/etc/hosts,此处一定要细心,不要遵照网络有的表明,将127.0.0.1那意气风发行里的localhost.localdomain改成主机名称,在安装Cloudera Agent的时候会识别不有名称和IP

    image.png

修改 /etc/sysconfig/network

    NETWORKING=yes
    HOSTNAME=CDH-DEV1
  1. Java情状(全体节点)

    下载jdk-8u144-linux-x64.tar.gz
    解压到/usr/java(可依据个体习贯创造目录)

     tar xzvf jdk-8u144-linux-x64.tar.gz
    

    配置情况变量

     [root@CDH-DEV1 .ssh]# vim /etc/profile #在文件末尾添加下面三行
    
     export JAVA_HOME=/usr/java/jdk1.8.0_144
     export PATH=$JAVA_HOME/bin:$PATH
     export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
    
     [root@CDH-DEV1 .ssh]# source /etc/profile #使生效
    
  2. SSH无密码登陆(集群内节点能够相互无密码访谈)

    思路:第大器晚成台机器配置authorized_keys,scp到第二台机械,将第二台机器的公钥增多到authorized_keys,然后将其scp到第三台,就那样类推,直到配置到结尾一台机器,将最后风流浪漫台机械的authorized_keys scp到具有节点,如下

    1)在主节点(CDH-DEV1)实行

     [root@CDH-DEV1 .ssh]# ssh-keygen -t rsa
     [root@CDH-DEV1 .ssh]# cat id_rsa.pub >> authorized_keys
     [root@CDH-DEV1 .ssh]# chmod 600 authorized_keys
     [root@CDH-DEV1 .ssh]# scp authorized_keys root@CDH-DEV2:~/.ssh
    

    2)在CDH-DEV2执行

     [root@CDH-DEV2 .ssh]# ssh-keygen -t rsa
     [root@CDH-DEV2 .ssh]# cat id_rsa.pub >> authorized_keys
     [root@CDH-DEV2 .ssh]# chmod 600 authorized_keys
     [root@CDH-DEV2 .ssh]# scp authorized_keys root@CDH-DEV3:~/.ssh
    

    3)在CDH-DEV2执行

     [root@CDH-DEV3 .ssh]# ssh-keygen -t rsa
     [root@CDH-DEV3 .ssh]# cat id_rsa.pub >> authorized_keys
     [root@CDH-DEV3 .ssh]# chmod 600 authorized_keys
     [root@CDH-DEV3 .ssh]# scp authorized_keys root@CDH-DEV4:~/.ssh
    

    4)在CDH-DEV2执行

     [root@CDH-DEV4 .ssh]# ssh-keygen -t rsa
     [root@CDH-DEV4 .ssh]# cat id_rsa.pub >> authorized_keys
     [root@CDH-DEV4 .ssh]# chmod 600 authorized_keys
     [root@CDH-DEV4 .ssh]# scp authorized_keys root@CDH-DEV1:~/.ssh
     [root@CDH-DEV4 .ssh]# scp authorized_keys root@CDH-DEV2:~/.ssh
     [root@CDH-DEV4 .ssh]# scp authorized_keys root@CDH-DEV3:~/.ssh
    
  3. 设置MySQL(主节点安装就能够)

    设置步骤:
    (1)此处需求小心的是centos 7 暗中认可安装的是mariadb,要是不卸载间接设置的话会报错,报错新闻mariadb-libs is obsoleted by mysql-community-libs-5.7.9-1.el7.x86_64

     rpm -qa | grep mariadb #查看安装信息
     rpm -e mariadb-libs* --nodeps #根据查找到的软件包信息卸载
    

    (2)安装MySQL(必需按以下顺序安装)

     rpm -ivh mysql-community-common-5.7.20-1.el7.x86_64.rpm
     rpm -ivh mysql-community-libs-5.7.9-1.el7.x86_64.rpm
     rpm -ivh mysql-community-client-5.7.9-1.el7.x86_64.rpm
     rpm -ivh mysql-community-server-5.7.9-1.el7.x86_64.rpm
    

    (3)基本设置

     service mysqld start #启动服务
     vim /var/log/mysqld.log  #查看初始密码
     mysql -uroot -p   #登录
     set password = password('test01.') #设置密码
    
     #授权用户root使用密码passwd从任意主机连接到mysql服务器
     GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY 'passwd' WITH GRANT OPTION;
     flush privileges;
    

    (4)建数据库(用于末端组件安装)

     create database hive DEFAULT CHARSET utf8 COLLATE utf8_general_ci;
     create database oozie DEFAULT CHARSET utf8 COLLATE utf8_general_ci;
     create database hue DEFAULT CHARSET utf8 COLLATE utf8_general_ci;
    
  4. 关闭防火墙(全部节点)
    centos 7 默许使用的是firewall,不是iptables

     systemctl stop firewalld.service
     systemctl mask firewalld.service
    
  5. 闭馆SELinux(全体节点)

     [root@CDH-DEV1 .ssh]# vim /etc/selinux/config
    
     设置SELINUX=disabled
    
  6. 布局NTP服务(全数节点)

     安装
     [root@CDH-DEV1 .ssh]# yum install ntp
     设置开机启动
     [root@CDH-DEV1 .ssh]# chkconfig ntpd on
     服务启动
     [root@CDH-DEV1 .ssh]# service ntpd start
    
  7. 怀有节点上创造客商

     useradd --system --home=/opt/cm-5.13.0/run/cloudera-scm-server/ --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm
    

五、参照他事他说加以考察网址

Installing Cloudera Manager and CDH

Cloudera Manager 5和CDH5离线安装,CDH-5.7.1

离线安装Cloudera Manager 5和CDH5(最新版5.1.3) 完全教程

序言

记录下Hadoop集群的搭建进度及旅途踩过的坑,希望能对正值攻读的同室有个协理,少走点弯路~

PS:为了有助于个人博客管理,此文从CSDN迁移过来,属于私有实际操作纪录的笔记,持续改过~

PPS:本文集群搭建为四台机械,不提议大家如此弄,因为zookeeper发挥最大职能的安顿是超越2 的奇数台机器。

PPPS:有标题请下方留言,我们彼此调换,分享使自个儿如获珍宝~~

本文由金沙澳门官网登录发布于金沙澳门官网登录,转载请注明出处:Centos 7 离线安装Cloudera Manager5 和CDH5.13.0

TAG标签:
Ctrl+D 将本页面保存为书签,全面了解最新资讯,方便快捷。