个人简介

Echo Blog


江湖无名 安心练剑
  • Apache Hadoop v3.3.6-16-Hadoop in Secure Mode
    Introduction 在默认配置中,我们期望您确保攻击者无法通过限制所有网络访问来访问您的Hadoop集群。 如果您希望对可以远程访问数据或提交作业的用户进行任何限制,您必须按照本文档中描述的方式保护Hadoop集群的身份验证和访问。 当Hadoop配置为在安全模式下运行时,每个Hadoop服务和每个用户都必须通过Kerberos进行身份验证。 必须正确配置所有服务主机的正向和反...
    2017-12-05 21:47:35 | Apache
  • Apache Hadoop v3.3.6-15-Rack Awareness
    Rack Awareness 当Hadoop组件具有机架感知功能时,例如HDFS块放置将使用机架感知来实现容错,通过在不同机架上放置一个块副本来提高数据的可用性,以应对集群中的网络交换机故障或分区。 Hadoop主节点通过调用配置文件指定的外部脚本或Java类来获取集群工作节点的机架ID。 无论是使用Java类还是外部脚本进行拓扑映射,输出必须符合Java的org.apache.had...
    2017-12-05 21:47:35 | Apache
  • Apache Hadoop v3.3.6-14-Proxy user - Superusers Acting On Behalf Of Other Users
    介绍 本文档描述了超级用户如何代表另一个用户提交作业或访问HDFS。 用例 下一节中描述的代码示例适用于以下用例。 一个名为’super’的超级用户想要代表用户joe提交作业并访问hdfs。超级用户具有Kerberos凭据,但用户joe没有。 任务需要以用户joe的身份运行,并且需要在Namenode上以用户joe的身份执行任何文件访问。 需要用户joe能够连接到使用超级Kerb...
    2017-12-05 21:47:35 | Apache
  • Apache Hadoop v3.3.6-13-Native Libraries Guide
    Native Hadoop库概览 本指南描述了Hadoop的本机库,并对本机共享库进行了简要讨论。 注意:根据您的环境,“本机库”一词可能指您需要编译的所有.so文件;而“本机压缩”一词可能指您需要编译的所有与压缩有关的.so文件。然而,当前,本文档仅涉及本机Hadoop库(libhadoop.so)。libhdfs库(libhdfs.so)的文档在这里。 本机Hadoop库 由于性...
    2017-12-05 21:47:35 | Apache
  • Apache Hadoop v3.3.6-12-Fair Call Queue Guide
    目的 本文档描述如何配置和管理Hadoop的公平调用队列。 先决条件 确保Hadoop已经安装、配置并正确设置。有关更多信息,请参阅: 首次用户的单节点设置。 大型分布式集群的集群设置。 概览 Hadoop服务器组件,特别是HDFS NameNode,经历来自客户端的非常大的RPC负载。 默认情况下,所有客户端请求都通过先进先出队列进行路由,并按照到达的顺序提供服务...
    2017-12-05 21:47:35 | Apache
  • Apache Hadoop v3.3.6-11-Hadoop CLI MiniCluster.
    目的 通过使用CLI MiniCluster,用户可以通过单个命令启动和停止单节点Hadoop集群,而无需设置任何环境变量或管理配置文件。 CLI MiniCluster启动了YARN/MapReduce和HDFS集群。 这对于用户希望快速尝试真正的Hadoop集群或测试依赖于大量Hadoop功能的非Java程序的情况非常有用。 Hadoop Tarball 您应该能够从发行版中获...
    2017-12-05 21:47:35 | Apache
  • Apache Hadoop v3.3.6-10-The Hadoop FileSystem API Definition
    Hadoop文件系统API定义 这是Hadoop文件系统API的规范,它将文件系统的内容建模为一组路径,这些路径可以是目录、符号链接或文件。 在这个领域,惊人地缺乏先前的艺术成果。有多个关于Unix文件系统的inode树的规范,但没有公开定义“Unix文件系统作为数据存储访问的概念模型”的内容。 这个规范试图做到这一点;定义Hadoop文件系统的模型和API,以便多个文件系统可以实现这...
    2017-12-05 21:47:35 | Apache
  • Apache Hadoop v3.3.6-09-Hadoop Interface Taxonomy Audience and Stability Classification
    动机 此处提供的接口分类用于指导接口的开发人员和用户。该分类指导开发人员声明接口的目标受众或用户以及其稳定性。 对接口用户的好处:了解使用或不使用哪些接口以及它们的稳定性。 对开发人员的好处:防止意外更改接口,从而意外地影响用户、其他组件或系统。这在具有许多开发人员的大型系统中特别有用,这些开发人员可能没有项目的共享状态/历史记录。 接口分类 Hadoop采用以下接口分类,这个分类...
    2017-12-05 21:47:35 | Apache