Tag: 哈多普

法兰绒解决的端口映射的复杂性是什么?

假设我有3个Containers在单个主机上运行,​​我们正在制作一个Hadoop集群,1个是master,另外2个是slave(Namenode和datanodes) 而且,我们需要映射端口: docker run -itd -p 50070:50070 –name master centos:bigdata docker run -itd -p 50075:50075 -p 50010:50010 –name slave1 centos:bigdata 现在端口50075,50010,50070在主机上忙,我们不能将它们映射到slave2 如果我们做一些随机映射, docker run -p 123:50075 -p 234:50010 –name slave2 centos:bigdata 然后,容器将无法通信,它将无法正常工作。 那么,法兰绒可以解决这个问题吗?

如何在多租户环境中将Hadoop中的各个应用程序进行dockerize?

我已经看到HortonWorks将完整的Hadoop放在Docker中,允许在不同的环境中安装Hadoop。 但是在YARN上运行的Hadoop中的单个应用程序如何? 特别是在多租户环境中,这将是有用的。 欣赏关于如何实现这一目标的任何想法。

资源pipe理器没有节点

编辑:我看了YARN Resourcemanager不连接到nodemanager和解决scheme不适合我。 我附加了连接到资源pipe理器的节点pipe理器日志部分: [main] client.RMProxy (RMProxy.java:createRMProxy(98)) – Connecting to ResourceManager at /0.0.0.0:8031 2016-06-17 19:01:04,697 INFO [main] nodemanager.NodeStatusUpdaterImpl (NodeStatusUpdaterImpl.java:getNMContainerStatuses(429)) – Sending out 0 NM container statuses: [] 2016-06-17 19:01:04,701 INFO [main] nodemanager.NodeStatusUpdaterImpl (NodeStatusUpdaterImpl.java:registerWithRM(268)) – Registering with RM using containers :[] 2016-06-17 19:01:05,815 INFO [main] ipc.Client (Client.java:handleConnectionFailure(867)) – Retrying connect to server: 0.0.0.0/0.0.0.0:8031. Already tried 0 time(s); […]

我可以使用Kerberos在Yarn上运行DCE(Docker Container Executor)吗?

hadoop文档指出DCE不支持具有安全模式的集群(Kerberos): https : //hadoop.apache.org/docs/r2.7.2/hadoop-yarn/hadoop-yarn-site/DockerContainerExecutor.html 人们正在为此工作吗? 有没有办法解决这个限制?

如何在Docker Swarm中设置Hadoop?

我希望能够在Docker中启动Hadoop集群,使用swarm将Hadoop节点分发到不同的物理节点。 我find了序列号图像,可以让我在Docker容器中运行hadoop,但是这不允许我使用多个节点。 我也看了cloudbreak项目,但似乎需要一个openstack安装,这似乎有点矫枉过正,因为在我看来,就像群集本身就足以做我们需要的东西。 另外我发现这个 Stackoverflow问题+依赖于编织,这需要sudo权利,我们的pipe理不会给大家的答案。 有没有一个解决scheme,以便启动hadoop集群归结为通过swarm启动一些容器?

是否有Hadoop集群的docker编排?

我正在看Rancher(docker工的编排引擎)。 我认为没有build立支持hadoop设置。