Linux ·

CentOS 6.4 离线安装 Cloudera 5.7.1 CDH 5.7.1

因为项目开发需要要在本地组建一个Hadoop/Spark集群,除了Hadoop/Spark还要同时安装多个相关的组件,如果一个个组件安装配置,对于一个由多台服务器组成的集群来说,工作量是巨大的。

所以需要借助Cloudera来安装,因为它本身集成了丰富的数据分析处理相关的组件和管理工具,而且还能帮助简化集群安装和配置。

Cloudera提供多种安装方式,但公司IT政策不允许本地集群接入互联网,所以我们只能选择离线安装这种方式。

安装前准备

主机和系统

Host OS Memory IP

HadoopMaster

Cent OS 6.4 x64

16G

192.168.1.10

HadoopSlave1

Cent OS 6.4 x64

16G

192.168.1.11

HadoopSlave2

Cent OS 6.4 x64

8G

192.168.1.12

安装包下载

可以自行到下面列出的文件目录里去找最新版本或直接点文件链接下载5.7.1的parcel和sha文件

注意:这里我们用的是Cent OS 6.4所以下载的时候要选择带el6标记的文件

系统和环境配置

更改主机名

打开网络配置

sudo vim /etc/sysconfig/network

如下方式更改主机名,把集群中的机器主机名分别改为HadoopMaster/HadoopSlave1/HadoopSlave2

NETWORKING=yes
HOSTNAME=HadoopMaster

重启网络

sudo service network restart

配置hosts文件

打开hosts文件

sudo vim /etc/hosts

改为如下配置

192.168.1.10   HadoopMaster
192.168.1.11   HadoopSlave1
192.168.1.12   HadoopSlave2

主机之间SSH免密码登录配置

生成SSH密钥

所有机器上执行下面命令,一路回车,可生成本机的rsa类型的密钥。

ssh-keygen -t rsa

执行完之后在~/.ssh/目录下会生成一个保存有公钥的文件:id_rsa.pub

所有机器执行下面命令把自己的公钥拷贝到Master机

ssh-copy-id hadoop@HadoopMaster

把HadoopMaster的authorized_keys拷贝到HadoopSlave1和HadoopSlave2

scp ~/.ssh/authorized_keys hadoop@HadoopSlave1:~/.ssh/
scp ~/.ssh/authorized_keys hadoop@HadoopSlave2:~/.ssh/

CentOS 6.4 离线安装 Cloudera 5.7.1 CDH 5.7.1 Linux 第1张

PDF文档可以到Linux公社资源站下载:

------------------------------------------分割线------------------------------------------

免费下载地址在 http://linux.linuxidc.com/

用户名与密码都是www.linuxidc.com

具体下载目录在 /2017年资料/4月/9日/CentOS 6.4 离线安装 Cloudera 5.7.1 CDH 5.7.1/

下载方法见 http://www.linuxidc.com/Linux/2013-07/87684.htm

------------------------------------------分割线------------------------------------------

参与评论