OneFS 尝试使用 Apache Hadoop YARN 节点标签功能失败
摘要: OneFS 尝试使用 Apache Hadoop YARN 节点标签功能失败
本文适用于
本文不适用于
本文并非针对某种特定的产品。
本文并非包含所有产品版本。
症状
问题 |
尝试使用 Apache Hadoop YARN 节点标签功能时,作失败,并且 OneFS 会生成错误消息。
尝试将 YARN 节点标签功能与 OneFS 7.2.1.x 和 Apache Hadoop 2.7 配合使用时,用户可能会收到 -appendToFile:致命内部错误消息。 |
环境 |
| OneFS 7.2.1.x 和 Hadoop 2.7 |
原因
原因
默认情况下,Hadoop 将节点标签信息存储在 HDFS 群集上的某个目录中。 Isilon OneFS 7.2.1.x 无法识别从 Hadoop 2.7 发送的 appendtofile 参数,因此在用户尝试使用 YARN 节点标签功能时可能会生成错误。解决方案
解决方案
要解决此问题,请执行下列作之一:
-
OneFS 7.2.1.2
- 实施下面提供的解决方法
-
OneFS 7.2.1.1
- 首先应用 patch-164059,然后实施下面提供的解决方法
解决方法
实施以下解决方法,以手动创建和使用驻留在 OneFS 群集而不是 HDFS 群集上的 YARN 节点标签目录。 提醒:如果您在 GitHub 上运行了 isilon_hadoop_tools 脚本,则无需遵循此解决方法,因为脚本会自动创建正确的目录并获得权限。
步骤 1。准备 OneFS 以存储节点标签信息
在 OneFS 群集上执行以下步骤。
注意:在以下过程中,HDFS_ROOT_DIR指的是 OneFS 群集上的 HDFS 根目录。
- 在 OneFS 上创建新目录以托管节点标签存储。
- mkdir -p HDFS_ROOT_DIR/system/yarn/node-labels
- 确认用户纱线存在。注意:如果您尚未创建名为 yarn 的用户,请立即创建一个。 有关创建用户的信息,请参阅 IsilonOneFSCLI 管理指南的管理本地用户和组部分。
- isi auth users list
- 使用户 yarn 成为新目录的所有者。
- chown 纱线 HDFS_ROOT_DIR/system/yarn/node-labels
- 更改目录的权限级别以允许所有者读取、写入和执行。
- CHMOD 700 HDFS_ROOT_DIR/系统/纱线/节点标签
(可选)步骤2:指导 Apache Hadoop 在 OneFS 上存储节点标签信息
在 HDFS 群集上执行以下步骤。
- 使用浏览器登录到 HDFS 群集上的 Ambari Manager。
- 从 Ambari 控制面板的顶部横幅中,单击 服务。
- 在左侧面板中,单击 YARN。
- 单击 Configs 选项卡。
- 单击Settings(设置)选项卡。
- 在“ YARN Features”下,确认节点标签为“Enabled”。
- 单击 Save。
- 单击 高级 选项卡。
- 展开 Advanced yarn-site 部分。
- 在 yarn.node-labels.fs-store.root-dir 字段中,确认列出了默认的 /system/yarn/node-labels。
- 单击 Save。
其他信息
其他信息:
有关 Hadoop 2.7 问题的 Apache 信息:
issues.apache.org/jira/browse/HDFS-9290有关如何使用 Yarn 的节点标签功能的 Apache 文档:
hadoop.apache.org/docs/stable/hadoop-yarn/hadoop-yarn-site/NodeLabel.html有关如何使用 Yarn 节点标签功能的 Hortonworks 文档:
docs.hortonworks.com/HDPDocuments/HDP2/HDP-2.4.2/bk_yarn_resource_mgt/content/ch_node_labels.html
有关 Hadoop 2.7 问题的 Apache 信息:
issues.apache.org/jira/browse/HDFS-9290有关如何使用 Yarn 的节点标签功能的 Apache 文档:
hadoop.apache.org/docs/stable/hadoop-yarn/hadoop-yarn-site/NodeLabel.html有关如何使用 Yarn 节点标签功能的 Hortonworks 文档:
docs.hortonworks.com/HDPDocuments/HDP2/HDP-2.4.2/bk_yarn_resource_mgt/content/ch_node_labels.html
受影响的产品
Isilon产品
Isilon文章属性
文章编号: 000052203
文章类型: Solution
上次修改时间: 26 3月 2025
版本: 4
从其他戴尔用户那里查找问题的答案
支持服务
检查您的设备是否在支持服务涵盖的范围内。