在centos上设置hdfs资源调度主要通过配置yarn（yet another resource negotiator）来实现，因为hdfs的资源调度是由yarn完成的。以下是设置hdfs资源调度的步骤和策略：
YARN架构和资源调度概述
YARN作为Hadoop的资源管理和调度系统，负责为在Hadoop集群上运行的应用程序提供资源管理和调度服务。YARN主要由ResourceManager、NodeManager、ApplicationMaster和Container等组件组成。
常用调度策略
- FIFO（先进先出）：任务按照提交的顺序进行执行。
- Capacity Scheduler：为不同的队列分配固定的资源比例，确保资源的合理利用和作业的公平执行。
- Fair Scheduler：根据队列的资源需求和作业的历史资源使用情况进行资源分配，实现更公平的资源分配。
配置HDFS资源调度的步骤
- 环境准备：安装JDK并设置SSH无密码登录。
- Hadoop安装：下载并解压Hadoop安装包，配置环境变量。
- HDFS配置：设置core-site.xml、hdfs-site.xml、mapred-site.xml和yarn-site.xml文件。
- 资源调度方案：在yarn-site.xml中配置ResourceManager和NodeManager的相关参数，如资源池、调度策略等。
- 高可用性配置：设置Secondary NameNode和ZooKeeper以增强HDFS的高可用性。
- 启动HDFS：格式化NameNode并使用start-dfs.sh脚本启动HDFS集群。
- 监控和管理：使用HDFS命令行工具或Web界面监控集群状态。
注意事项
- 在进行任何配置更改之前，建议先停止HDFS服务，以避免配置更改时的不一致状态。
- 确保将更改后的配置文件同步到所有DataNode和SecondaryNameNode上。
- 在生产环境中，可能需要根据集群的性能和使用情况进行进一步的调整。
通过上述步骤和策略，可以在CentOS上设置HDFS资源调度，以优化集群的性能和资源利用率。
