☰
CDH第二篇:部署 CDH 前必看:三节点集群规划、内存红线与安装介质清单
2026/10/26 1:52:15 网站建设 项目流程

目录
一、三节点集群拓扑规划
二、内存红线:为什么 master 要 6G 起步
三、软件版本组合与兼容性
四、安装介质清单(提前全部下载)
五、目录规划约定
六、结语与系列预告
一、三节点集群拓扑规划
本系列采用最经典的 1 主 2 从架构,也是学习和中小规模生产最常用的形态:

主机名 IP 地址 内存要求 硬盘 角色规划
cdhmaster 192.168.9.233 ≥ 6G ≥ 50G CM Server、NameNode、MySQL
cdhslave01 192.168.9.234 ≥ 4G ≥ 50G DataNode、NodeManager、Kafka Broker
cdhslave02 192.168.9.235 ≥ 4G ≥ 50G DataNode、NodeManager、Kafka Broker
三台机器主机名分别执行:

bash

hostnamectl set-hostname cdhmaster
hostnamectl set-hostname cdhslave01
hostnamectl set-hostname cdhslave02
1.1 为什么要规范主机名
CDH 对主机名高度敏感:节点注册、角色分配、服务发现全部依赖主机名。如果用 localhost 或临时改名,后面 Agent 注册会失败,或者控制台里出现一堆无法管理的"幽灵节点"。主机名规划好后不要再改。

1.2 角色分配的逻辑
master 集中管理类角色:CM Server、NameNode、MySQL,管理面集中在一台,边界清晰
slave 承担数据与计算:DataNode 存数据,NodeManager 跑任务,Kafka Broker 收发消息
数据节点不部署管理角色,避免资源争抢
二、内存红线:为什么 master 要 6G 起步
这是新手最常踩的坑,单独拎出来讲。

master 节点上要同时常驻这些进程:

进程 大致内存占用
Cloudera SCM Server(Java) 2G+
NameNode(Java) 1G+
MySQL(元数据库) 1G+
Operating System + Agent 1G+
合计接近 5G,所以 master 给 4G 内存必然卡死或服务反复崩溃,6G 是及格线,生产建议 8G 以上。

从节点 4G 可以跑起来,但如果后面要集成 Kafka(第 7 篇),建议也提到 6G。

2.1 内存不足的典型症状
CM 控制台服务频繁"变红",重启后好一阵又崩
主机详情页 swap 使用率长期 100%
Web 向导安装时 Parcel 分发极慢甚至卡死
遇到这些症状,先别急着排错,先看免费内存:free -g。

三、软件版本组合与兼容性
CDH 的优势就是版本兼容官方背书,但CM 版本和 CDH 版本自己也要配对。本系列实测组合:

组件 版本 说明
操作系统 CentOS 7.3 7 系均可
JDK 1.8.0_171 三节点统一版本
Cloudera Manager 5.14.0 管理平台
CDH 5.9.0 大数据组件全家桶
MySQL 5.7.22 元数据库
JDBC 驱动 mysql-connector-java-5.1.46 CM 和 Hive 共用
Kafka 2.0.2 CSD 1.2.0 + Parcel 集成
JDK 版本三节点必须完全一致,否则 Parcel 激活后的环境检查会报 Java 版本不一致。

四、安装介质清单(提前全部下载)
CDH 离线部署的最大特点是"先下载、后安装",以下 7 份介质建议在开工前全部就位:

序号 介质 用途 放置位置
1 cloudera-manager-centos7-cm5.14.0_x86_64.tar.gz CM 主程序 master /opt 下解压
2 CDH-5.9.0-1.cdh5.9.0.p0.23-el7.parcel CDH 本体 parcel-repo 仓库
3 CDH-5.9.0-1.cdh5.9.0.p0.23-el7.parcel.sha1 Parcel 校验文件 同上(要改名)
4 manifest.json Parcel 清单 同上
5 KAFKA-2.0.2-1.2.0.2.p0.5-el7.parcel + .sha1 Kafka Parcel 同上
6 KAFKA-1.2.0.jar Kafka CSD 描述文件 /opt/cloudera/csd/
7 jdk-8u171 / mysql-5.7.22 / mysql-connector-java-5.1.46 基础组件 master
特别注意:.sha1 校验文件在放入仓库后必须重命名为 .sha,这是本系列最大的坑,第 5 篇会详细展开。

4.1 下载渠道
官方渠道是 archive.cloudera.com,国内下载慢的话可以找镜像站或提前用下载工具离线获取。Parcel 单个文件 4G 左右,网络不稳时优先用断点续传工具。

五、目录规划约定
提前约定目录,后面所有文章都沿用:

/opt/cm # CM 主目录
/opt/cloudera/parcel-repo/ # Parcel 本地仓库(仅 master)
/opt/cloudera/csd/ # CSD 文件目录(仅 master)
/opt/jdk # JDK
/usr/local/mysql # MySQL
统一目录的好处:出问题排查时,所有人的日志、配置都在预期位置,不用一台一台找。

六、结语与系列预告
规划做到位,部署就成功了一半。总结三个关键数字:master 内存 6G 起步、介质 7 份提前下载、.sha1 记得改 .sha。

下一篇进入正式动手环节:环境准备 7 步实战——防火墙、时间同步、SSH 免密、内核参数,一个都不能少,每步都带验证命令。

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询