0

0

Cloudera Manager 5 和 CDH5离线安装参考

php中文网

php中文网

发布时间:2016-06-07 16:38:15

|

2116人浏览过

|

来源于php中文网

原创

0. ?主机规划 Cloudera Manager需要一台单独的主机 debugo01 Cloudera Manager, yum repo debugo02 NameNode, DataNode, Yarn RM, Spark Master, Spark Worker debugo03 DataNode, Spark Worker, Secondery NameNode 1. 准备工作(需要在所有节点操作) a). 网

0. ?主机规划

Cloudera Manager需要一台单独的主机
debugo01 Cloudera Manager, yum repo
debugo02 NameNode, DataNode, Yarn RM, Spark Master, Spark Worker …
debugo03 DataNode, Spark Worker, Secondery NameNode …

1. 准备工作(需要在所有节点操作)

a). 网络配置、 /etc/hosts或DNS 、hostname配置(略)
b). 时区和ntp

cp /usr/share/zoneinfo/Asia/Shanghai /etc/localtime
chkconfig ntpd on

c). 关闭selinux和iptables

chkconfig iptables off
chkconfig ip6tables off
sed -i 's/^SELINUX.*/SELINUX=disabled/' /etc/selinux/config

d). 配置ISO源

/etc/yum.repos.d/CentOS-ISO.repo
[base]
name=CentOS-$releasever - ISO
baseurl=http://debugo01/CentOS_6.5_Final
enabled=1
gpgcheck=1
gpgkey=file:///etc/pki/rpm-gpg/RPM-GPG-KEY-CentOS-6
# 在debugo01上挂载镜像文件到http目录下
yum install -y httpd
mount -o loop CentOS*.iso /var/www/html

e). 安装包
所有主机都需要安装mysql-connector、jdk和scala(需要去Oracle和Scala官方下载1.7最新版)

yum install -y mysql-connector-java
rpm -qa | grep java    #(需要卸载openjdk-1.6)
rpm -ivh jdk-1.7.0_67-fcs.x86_64.rpm
rpm -ivh scala-2.10.4-400.noarch.rpm

f). 重启主机

2. CM Server配置

离线安装有两种方式,官方推荐使用parcel来进行离线安装。但是一直尝试失败,下面使用yum repo进行离线安装。
a). 安装软件包

yum install mysql-server mysql createrepo
chkconfig mysqld on

b). 下载Cloudera Manager

谱乐AI
谱乐AI

谱乐AI,集成 Suno、Udio 等顶尖AI音乐模型的一站式AI音乐生成平台。

下载
wget http://archive-primary.cloudera.com/cm5/cm/5/cloudera-manager-el6-cm5.1.1_x86_64.tar.gz
tar xvzf cloudera-manager-el6-cm5.1.1_x86_64.tar.gz -C /opt

c). 创建MySQL用户

mysql -uroot -e "CREATE DATABASE cm DEFAULT CHARSET utf8 COLLATE utf8_general_ci"
mysql -uroot -e "CREATE DATABASE cdh DEFAULT CHARSET utf8 COLLATE utf8_general_ci"
mysql -uroot -e 'GRANT all on cm.* TO cm@"%" IDENTIFIED BY "cm"'
mysql -uroot -e 'GRANT all on cdh.* TO cdh@"%" IDENTIFIED BY "cdh"'
mysqladmin flush-privileges

d).同步yum repo
最新的repo请在http://archive.cloudera.com/ 中下载

vim /etc/yum.repo.d/cloudera-cdh5.repo 
[cloudera-cdh5]
# Packages for Cloudera's Distribution for Hadoop, Version 5, on RedHat	or CentO
S 6 x86_64
name=Cloudera's Distribution for Hadoop, Version 5
baseurl=http://archive.cloudera.com/cdh5/redhat/6/x86_64/cdh/5/
gpgkey = http://archive.cloudera.com/cdh5/redhat/6/x86_64/cdh/RPM-GPG-KEY-cloude
ra    
gpgcheck = 1
[cloudera-manager]
name = Cloudera Manager, Version 5.1.1
baseurl = http://archive.cloudera.com/cm5/redhat/6/x86_64/cm/5.1.1/
gpgkey = http://archive.cloudera.com/redhat/cdh/RPM-GPG-KEY-cloudera
gpgcheck = 1
enabled=1
cd /var/www/html
mkdir cdh5 && cd cdh5
reposync -r cloudera-cdh5
createrepo .
ln -s /var/www/html/cdh5/cloudera-cdh5/RPMS /var/www/html/cdh5/RPMS
# 漫长得等待...
mkdir ../cm && cd cm
reposync -r cloudera-manager
createrepo .

在debugo02,debugo03上测试http访问,并配置下面的repo信息。
[cloudera-cdh5]
# Packages for Cloudera’s Distribution for Hadoop, Version 5, on RedHat or CentOS 6 x86_64
name=Cloudera’s Distribution for Hadoop, Version 5
baseurl=http://debugo01/cdh5
gpgcheck = 0
enabled = 1

[cloudera-manager]
name = Cloudera Manager, Version 5.1.1
baseurl = http://debugo01/cm
gpgcheck = 0
enabled=1
e). 配置cm

sed -i 's/^server_host.*/server_host=debugo01/' /opt/cm-5.1.1/etc/cloudera-scm-agent/config.ini
/opt/cm-5.1.1/share/cmf/schema/scm_prepare_database.sh mysql cm -hlocalhost -uroot -p --scm-host localhost scm scm scm
Enter database password: 
Verifying that we can write to /opt/cm-5.1.1/etc/cloudera-scm-server
Creating SCM configuration file in /opt/cm-5.1.1/etc/cloudera-scm-server
Executing:  /usr/java/latest/bin/java -cp /usr/share/java/mysql-connector-java.jar:/usr/share/java/oracle-connector-java.jar:/opt/cm-5.1.1/share/cmf/schema/../lib/* com.cloudera.enterprise.dbutil.DbCommandExecutor /opt/cm-5.1.1/etc/cloudera-scm-server/db.properties com.cloudera.cmf.db.
[main] DbCommandExecutor              INFO  Successfully connected to database.
All done, your SCM database is configured correctly!

f). 启动cm

/opt/cm-5.1.1/etc/init.d/cloudera-scm-agent start
/opt/cm-5.1.1/etc/init.d/cloudera-scm-server start

3. 安装CDH

a). 通过浏览器访问debugo01,使用admin/admin登录
b). 选择Cloudera Express来创建cluster。express是cloudera的免费版,相比企业版只是少了升级和一些高级特性(http://www.cloudera.com/content/cloudera-content/cloudera-docs/CM5/latest/Cloudera-Manager-Installation-Guide/cm5ig_feature_differences.html?scroll=cmfeig_topic_5_1)
c). 接下来Specify hosts for your CDH cluster installation, 添加新主机debugo02,并将Currently Managed Hosts中的cm-server主机debugo01也勾选上。
d). Select Repository – Use Parcel, CDH – CDH-5.1.0-1.cdh5.1.0.p0.53
e). Provide SSH login credentials. 使用root并输入root密码
f). Cluster Installation
这里会遇到一个DNS反向解析错误,不能正确解析Cloudera Manager Server主机名的问题,解决方法将host工具改名,安装成功后再修改回来。
mv /usr/bin/host /usr/bin/host.bak
为了加快安装,可以在安装开始后手工删除debugo02、debugo03中/etc/yum.repos.d/新生成的repo文件,让cluster的直接使用本地源。
g). 安装后进入集群配置界面,输入前面创建的cdh数据库。根据需求配置角色。完成查看host和集群状态正常,安装完成。很多细节的配置警告可以根据提示来调整。
1

^^

相关专题

更多
Java 桌面应用开发(JavaFX 实战)
Java 桌面应用开发(JavaFX 实战)

本专题系统讲解 Java 在桌面应用开发领域的实战应用,重点围绕 JavaFX 框架,涵盖界面布局、控件使用、事件处理、FXML、样式美化(CSS)、多线程与UI响应优化,以及桌面应用的打包与发布。通过完整示例项目,帮助学习者掌握 使用 Java 构建现代化、跨平台桌面应用程序的核心能力。

37

2026.01.14

php与html混编教程大全
php与html混编教程大全

本专题整合了php和html混编相关教程,阅读专题下面的文章了解更多详细内容。

19

2026.01.13

PHP 高性能
PHP 高性能

本专题整合了PHP高性能相关教程大全,阅读专题下面的文章了解更多详细内容。

37

2026.01.13

MySQL数据库报错常见问题及解决方法大全
MySQL数据库报错常见问题及解决方法大全

本专题整合了MySQL数据库报错常见问题及解决方法,阅读专题下面的文章了解更多详细内容。

19

2026.01.13

PHP 文件上传
PHP 文件上传

本专题整合了PHP实现文件上传相关教程,阅读专题下面的文章了解更多详细内容。

16

2026.01.13

PHP缓存策略教程大全
PHP缓存策略教程大全

本专题整合了PHP缓存相关教程,阅读专题下面的文章了解更多详细内容。

6

2026.01.13

jQuery 正则表达式相关教程
jQuery 正则表达式相关教程

本专题整合了jQuery正则表达式相关教程大全,阅读专题下面的文章了解更多详细内容。

3

2026.01.13

交互式图表和动态图表教程汇总
交互式图表和动态图表教程汇总

本专题整合了交互式图表和动态图表的相关内容,阅读专题下面的文章了解更多详细内容。

45

2026.01.13

nginx配置文件详细教程
nginx配置文件详细教程

本专题整合了nginx配置文件相关教程详细汇总,阅读专题下面的文章了解更多详细内容。

9

2026.01.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
CSS3 教程
CSS3 教程

共18课时 | 4.5万人学习

NumPy 教程
NumPy 教程

共44课时 | 2.9万人学习

HTML教程
HTML教程

共500课时 | 4.6万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号