OneFS 尝试使用 Apache Hadoop YARN 节点标签功能失败

摘要: OneFS 尝试使用 Apache Hadoop YARN 节点标签功能失败

本文适用于 本文不适用于 本文并非针对某种特定的产品。 本文并非包含所有产品版本。

症状



问题

尝试使用 Apache Hadoop YARN 节点标签功能时,作失败,并且 OneFS 会生成错误消息。


症状

尝试将 YARN 节点标签功能与 OneFS 7.2.1.x 和 Apache Hadoop 2.7 配合使用时,用户可能会收到 -appendToFile:致命内部错误消息。
 

环境

OneFS 7.2.1.x 和 Hadoop 2.7

原因

原因

默认情况下,Hadoop 将节点标签信息存储在 HDFS 群集上的某个目录中。  Isilon OneFS 7.2.1.x 无法识别从 Hadoop 2.7 发送的 appendtofile 参数,因此在用户尝试使用 YARN 节点标签功能时可能会生成错误。

解决方案


解决方案

要解决此问题,请执行下列作之一:
  • OneFS 7.2.1.2

    • 实施下面提供的解决方法
  • OneFS 7.2.1.1

    • 首先应用 patch-164059,然后实施下面提供的解决方法

解决方法

实施以下解决方法,以手动创建和使用驻留在 OneFS 群集而不是 HDFS 群集上的 YARN 节点标签目录。  提醒:如果您在 GitHub 上运行了 isilon_hadoop_tools 脚本,则无需遵循此解决方法,因为脚本会自动创建正确的目录并获得权限。

步骤 1。准备 OneFS 以存储节点标签信息
在 OneFS 群集上执行以下步骤。
注意:在以下过程中,HDFS_ROOT_DIR指的是 OneFS 群集上的 HDFS 根目录。

  1. 在 OneFS 上创建新目录以托管节点标签存储。
    • mkdir -p HDFS_ROOT_DIR/system/yarn/node-labels
  2. 确认用户纱线存在。注意:如果您尚未创建名为 yarn 的用户,请立即创建一个。  有关创建用户的信息,请参阅 IsilonOneFSCLI 管理指南的管理本地用户和组部分。
    • isi auth users list
  3. 使用户 yarn 成为新目录的所有者。
    • chown 纱线 HDFS_ROOT_DIR/system/yarn/node-labels
  4. 更改目录的权限级别以允许所有者读取、写入和执行。
    • CHMOD 700 HDFS_ROOT_DIR/系统/纱线/节点标签
 
(可选)步骤2:指导 Apache Hadoop 在 OneFS 上存储节点标签信息
在 HDFS 群集上执行以下步骤。
  1. 使用浏览器登录到 HDFS 群集上的 Ambari Manager。
  2. 从 Ambari 控制面板的顶部横幅中,单击 服务
  3. 在左侧面板中,单击 YARN
  4. 单击 Configs 选项卡。
  5. 单击Settings(设置)选项卡。
  6. 在“ YARN Features”下,确认节点标签为“Enabled”。
  7. 单击 Save
  8. 单击 高级 选项卡。
  9. 展开 Advanced yarn-site 部分。
  10. yarn.node-labels.fs-store.root-dir 字段中,确认列出了默认的 /system/yarn/node-labels。
  11. 单击 Save

其他信息

其他信息:

有关 Hadoop 2.7 问题的 Apache 信息:


issues.apache.org/jira/browse/HDFS-9290有关如何使用 Yarn 的节点标签功能的 Apache 文档:


hadoop.apache.org/docs/stable/hadoop-yarn/hadoop-yarn-site/NodeLabel.html有关如何使用 Yarn 节点标签功能的 Hortonworks 文档:
docs.hortonworks.com/HDPDocuments/HDP2/HDP-2.4.2/bk_yarn_resource_mgt/content/ch_node_labels.html  

受影响的产品

Isilon

产品

Isilon
文章属性
文章编号: 000052203
文章类型: Solution
上次修改时间: 26 3月 2025
版本:  4
从其他戴尔用户那里查找问题的答案
支持服务
检查您的设备是否在支持服务涵盖的范围内。