如何解决Hadoop集群环境下DataNode无法连接NameNode问题

简介

本文总结了在Hadoop集群环境下，DataNode无法连接NameNode的问题：2017-02-13 05:43:01,540 WARN org.apache.hadoop.hdfs.server.datanode.DataNode: Problem connecting to server: hadoop-master-vm/10.220.33.37:9000，重点在于问题的排除思路和方法。该问题出现的运行环境为Ubuntu 16.05 TLS, Hadoop 2.7.3环境下。

问题描述

按照博文 Ubuntu环境下Hadoop集群/分布式环境配置搭建Hadoop集群环境后，在运行hdfs dfsadmin -report查看分布式文件系统信息时发现无法显示相关数据： 
hadoop@hadoop-master-vm:~$ hdfs dfsadmin -report
Configured Capacity: 0 (0 B)
Present Capacity: 0 (0 B)
DFS Remaining: 0 (0 B)
DFS Used: 0 (0 B)
DFS Used%: NaN%
Under replicated blocks: 0
Blocks with corrupt replicas: 0
Missing blocks: 0
Missing blocks (with replication factor 1): 0

-------------------------------------------------
登录http://hadoop-master-vm:50070后，DataNode列表显示为空。

问题分析与排查

这里我们来总结一下此问题的排查思路
1. 遇到该类问题时，首先需要确认的是相关的服务进程是否已经启动起来，这里可以通过jps命令来查看。如果能够正常启动的话，在Master节点上，可以看到NameNode、ResourceManager、SecondaryNameNode、JobHisotryServer服务； 在Slave节点上可以看到DataNode和NodeManager服务。通过jps命令发现相关的服务都存在。
2. 接下来需要查看的就是系统日志。系统日志位于Hadoop安装目录的logs子目录下。我们查看其中一个DataNode的日志文件$INSTALL_HADOOP/logs/hadoop-hadoop-datanode-hadoop-slave01-vm.log，发现了下面的异常信息： 
2017-02-13 05:24:52,166 WARN org.apache.hadoop.hdfs.server.datanode.DataNode: Problem connecting to server: hadoop-master-vm/10.220.33.37:9000
2017-02-13 05:24:58,168 INFO org.apache.hadoop.ipc.Client: Retrying connect to server: hadoop-master-vm/10.220.33.37:9000. 
Already tried 0 time(s); retry policy is RetryUpToMaximumCountWithFixedSleep(maxRetries=10, sleepTime=1000 MILLISECONDS)
2017-02-13 05:24:59,169 INFO org.apache.hadoop.ipc.Client: Retrying connect to server: hadoop-master-vm/10.220.33.37:9000.
Already tried 1 time(s); retry policy is RetryUpToMaximumCountWithFixedSleep(maxRetries=10, sleepTime=1000 MILLISECONDS)
从日志上分析，DataNode无法连接NameNode。此时可去排查NameNode的问题
3. 在NameNode上，使用netstat -l来查看端口信息，发现服务端口9000工作正常： 
hadoop@hadoop-master-vm:~$ netstat -l
Active Internet connections (only servers)
Proto Recv-Q Send-Q Local Address           Foreign Address         State
tcp        0      0 127.0.1.1:10020         *:*                     LISTEN
tcp        0      0 hadoop-master-vm:9000   *:*                     LISTEN
tcp        0      0 hadoop-master-vm:50090  *:*                     LISTEN
tcp        0      0 *:netbios-ssn           *:*                     LISTEN
tcp        0      0 127.0.1.1:19888         *:*                     LISTEN
tcp        0      0 *:x11-1                 *:*                     LISTEN
此时怀疑是否因为系统防火墙配置导致过滤了9000端口报文，尝试用sudo ufw allow 9000命令运行防火墙通过相关端口的报文，未果。重新审视了netstat -l的输出，发现10020和19888端口侦听地址比较奇怪，为127.0.1.1。但在mapred-site.xml配置文件中，我们是以hostname来配置的： 
  1. <configuration>
  2.     <property>
  3.         <name>mapreduce.framework.namename>
  4.         <value>yarnvalue>
  5.     property>
  6.     <property>
  7.         <name>mapreduce.jobhistory.addressname>
  8.         <value>hadoop-master-vm:10020value>
  9.     property>
  10.     <property>
  11.         <name>mapreduce.jobhistory.webapp.addressname>
  12.         <value>hadoop-master-vm:19888value>
  13.     property>
  14. configuration>
netstat -l显示的信息与mapred-site.xml配置冲突，实际上应该监听hadoop-master-vm上来的数据，而非127.0.1.1。查看/etc/hosts文件，发现有127.0.1.1对应的域名： 
hadoop@hadoop-master-vm:~/hadoop-2.7.3/logs$ cat /etc/hosts
127.0.0.1       localhost
127.0.1.1      hadoop-master-vm

10.220.33.37    hadoop-master-vm
10.220.33.36    hadoop-slave01-vm
10.220.33.35    hadoop-slave02-vm
10.220.33.34    hadoop-slave03-vm

# The following lines are desirable for IPv6 capable hosts
::1     ip6-localhost ip6-loopback
fe00::0 ip6-localnet
ff00::0 ip6-mcastprefix
ff02::1 ip6-allnodes
ff02::2 ip6-allrouters
尝试注释掉127.0.1.1的域名，重新启动相关的服务后，重新查看端口侦听信息： 
hadoop@hadoop-master-vm:~$ netstat -l
Active Internet connections (only servers)
Proto Recv-Q Send-Q Local Address           Foreign Address         State
tcp        0      0 hadoop-master-vm:10020  *:*                     LISTEN
tcp        0      0 hadoop-master-vm:9000   *:*                     LISTEN
tcp        0      0 hadoop-master-vm:50090  *:*                     LISTEN
tcp        0      0 *:netbios-ssn           *:*                     LISTEN
tcp        0      0 hadoop-master-vm:19888  *:*                     LISTEN
tcp        0      0 *:10033                 *:*                     LISTEN
现在已经与实际配置一致了，使用hdfs dfsadmin -report命令查看，已经可以显示DataNode信息了 
hadoop@hadoop-master-vm:~$ hdfs dfsadmin -report
Configured Capacity: 82035068928 (76.40 GB)
Present Capacity: 53878968320 (50.18 GB)
DFS Remaining: 53878870016 (50.18 GB)
DFS Used: 98304 (96 KB)
DFS Used%: 0.00%
Under replicated blocks: 0
Blocks with corrupt replicas: 0
Missing blocks: 0
Missing blocks (with replication factor 1): 0

-------------------------------------------------
Live datanodes (3):

Name: 10.220.33.35:50010 (hadoop-slave02-vm)
Hostname: hadoop-slave02-vm
Decommission Status : Normal
Configured Capacity: 27345022976 (25.47 GB)
DFS Used: 32768 (32 KB)
Non DFS Used: 9382637568 (8.74 GB)
DFS Remaining: 17962352640 (16.73 GB)
DFS Used%: 0.00%
DFS Remaining%: 65.69%
Configured Cache Capacity: 0 (0 B)
Cache Used: 0 (0 B)
Cache Remaining: 0 (0 B)
Cache Used%: 100.00%
Cache Remaining%: 0.00%
Xceivers: 1
Last contact: Mon Feb 13 06:50:53 EST 2017


Name: 10.220.33.34:50010 (hadoop-slave03-vm)
Hostname: hadoop-slave03-vm
Decommission Status : Normal
Configured Capacity: 27345022976 (25.47 GB)
DFS Used: 32768 (32 KB)
Non DFS Used: 9390850048 (8.75 GB)
DFS Remaining: 17954140160 (16.72 GB)
DFS Used%: 0.00%
DFS Remaining%: 65.66%
Configured Cache Capacity: 0 (0 B)
Cache Used: 0 (0 B)
Cache Remaining: 0 (0 B)
Cache Used%: 100.00%
Cache Remaining%: 0.00%
Xceivers: 1
Last contact: Mon Feb 13 06:50:53 EST 2017


Name: 10.220.33.36:50010 (hadoop-slave01-vm)
Hostname: hadoop-slave01-vm
Decommission Status : Normal
Configured Capacity: 27345022976 (25.47 GB)
DFS Used: 32768 (32 KB)
Non DFS Used: 9382612992 (8.74 GB)
DFS Remaining: 17962377216 (16.73 GB)
DFS Used%: 0.00%
DFS Remaining%: 65.69%
Configured Cache Capacity: 0 (0 B)
Cache Used: 0 (0 B)
Cache Remaining: 0 (0 B)
Cache Used%: 100.00%
Cache Remaining%: 0.00%
Xceivers: 1
Last contact: Mon Feb 13 06:50:53 EST 2017

问题总结

/etc/hosts文件配置错误导致了服务侦听地址错误，引起了NameNode和DataNode工作的异常。类似的问题，均可参考本文的排查思路来解决。
id="article_content" class="article_content clearfix" style="height: 2000px; overflow: hidden;"> id="content_views" class="htmledit_views">

系列文章

class="table-box">
序号文章目录直达链接
1浪漫520表白代码http://iyenn.com/rec/1677773.html
2满屏表白代码http://iyenn.com/rec/1676512.html
3跳动的爱心http://iyenn.com/rec/1677774.html
4漂浮爱心http://iyenn.com/rec/1677775.html
5爱心光波http://iyenn.com/rec/1677776.html
6流星雨http://iyenn.com/rec/1677777.html
7满天星http://iyenn.com/rec/1677778.html
8烟花秀http://iyenn.com/rec/1677779.html
9圣诞树http://iyenn.com/rec/1677780.html
10雪花代码http://iyenn.com/rec/1677781.html
11模拟星空http://iyenn.com/rec/1677782.html
12生日蛋糕http://iyenn.com/rec/1677783.html
13樱花树http://iyenn.com/rec/1677784.html
14五彩气球http://iyenn.com/rec/1677785.html
15七彩花朵http://iyenn.com/rec/1677786.html
16恶搞代码http://iyenn.com/rec/1677787.html

目录

系列文章

前言 

小海龟

雪花类 

画雪花 

移动函数 

 

前言 

用python画个雪花玩玩，完整代码在文末公众号免费领取哈。

小海龟

老生常谈啦，在用python画樱花树前，我们先来了解一下turtle吧！

小海龟(Turtle)是Python中画图的一个重要的包（内置包），里面包含丰富的画图工具以及画图的各种功能，当你学会了用Turtle画图后，你可以画任何你想画的图案哦。

1.1 Turtle画板
Turtle的画板大小可以用turtle.screensize()函数来设置

turtle.screensize(width,height,bg) class="hljs-button signin" data-title="登录后复制" data-report-click="{"spm":"1001.2101.3001.4334"}" onclick="hljs.signin(event)">

设置画板的大小，包含宽和高，width为宽，height为高，bg为画布颜色

1.2 Turtle画笔
Turtle的画笔有几个常用的函数：

①turtle.penup()：抬起画笔，此时移动画笔不会在画布上留下痕迹哦
②turtle.pendown()：放下画笔，与turtle.penup相对应，放下画笔后就可以继续画画了（放下画笔后画画会在画布上留下痕迹）
③turtle.pensize()：控制画笔的大小（可以根据需求自行定义画笔的大小哦）
④turtle.pencolor()：控制画笔的颜色（可以自己在网上查阅所有python可以使用的颜色，python里面可以用的颜色有很多的哦）
⑤turtle.hideturtle()：隐藏画笔（隐藏画笔以后画图时画笔就看不到了）

1.3 Turtle画图
在画图的过程中，我们经常要使用一些简单的移动函数：

①turtle.forward(x)：将画笔向前移动x个像素（x可以理解为距离）
②turtle.backward(x)：将画笔向后退x个像素（x可以理解为距离）
③turtle.left(n)：将画笔向左旋转n度
④turtle.right(n)：将画笔向右旋转n度
⑤turtle.speed()：设置画笔画图的速度（1~10递增，0最快）

1.4 Turtle填色
在画好图后，我们经常需要对其进行填色，这里可以用turtle.fillcolor()函数，括号里写入你想填充的颜色即可。
在使用turtle.fillcolor()函数要注意其基本格式：

turtle.beginfill()     #开始填充
turtle.fillcolor()      #输入填充的颜色
turtle.endfill()        #结束填充

1.5 Turtle写字
在完成整个画图后，我们可以使用turtle.write()函数进行写字

turtle.write(" ",move,align,font) class="hljs-button signin" data-title="登录后复制" data-report-click="{"spm":"1001.2101.3001.4334"}" onclick="hljs.signin(event)">

① 第一个位置双引号内填入要写的字
② move（可选）：在默认情况下，move为false。如果move为true，则笔将移动到右下角
③ align（可选）：可取值是left即左、center即中、right即右之一，是字符串格式
④ font（可选）：字体三元组（fontname、fontsize、fonttype），fontname即字体名称（字符串格式，如“宋体”），fontsize即字体大小），fonttype即字体类型如：normal（普通）、bold（粗体）、italic（斜体）

雪花类 

  1.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="1">
class="hljs-ln-code"> class="hljs-ln-line">class Snow():    #雪花类
  • class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="2"> class="hljs-ln-code"> class="hljs-ln-line">    def __init__(self):
  • class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="3"> class="hljs-ln-code"> class="hljs-ln-line">        self.r = 6                       #雪花的半径
  • class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="4"> class="hljs-ln-code"> class="hljs-ln-line">        self.x = ra.randint(-1000,1000)   #雪花的横坐标
  • class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="5"> class="hljs-ln-code"> class="hljs-ln-line">        self.y = ra.randint(-500,500)     #雪花的纵坐标
  • class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="6"> class="hljs-ln-code"> class="hljs-ln-line">        self.f = ra.uniform(-3.14,3.14)   #雪花左右移动呈正弦函数
  • class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="7"> class="hljs-ln-code"> class="hljs-ln-line">        self.speed = ra.randint(5,10)     #雪花移动速度
  • class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="8"> class="hljs-ln-code"> class="hljs-ln-line">        self.color = ra.choice(colors)    #雪花的颜色
  • class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="9"> class="hljs-ln-code"> class="hljs-ln-line">        self.outline = 5                 #雪花的大小 
    • class="hljs-button signin" data-title="登录后复制" data-report-click="{"spm":"1001.2101.3001.4334"}" onclick="hljs.signin(event)">

    画雪花 

    1.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="1"> class="hljs-ln-code"> class="hljs-ln-line">    def snow(self):                #画每个雪花
    2.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="2"> class="hljs-ln-code"> class="hljs-ln-line">        x=self.r                   #雪花的半径
    3.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="3"> class="hljs-ln-code"> class="hljs-ln-line">        t.pensize(self.outline)    #雪花的大小
    4.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="4"> class="hljs-ln-code"> class="hljs-ln-line">        t.penup()                  #提笔
    5.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="5"> class="hljs-ln-code"> class="hljs-ln-line">        t.goto(self.x,self.y)      #随机位置
    6.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="6"> class="hljs-ln-code"> class="hljs-ln-line">        t.pendown()                #落笔
    7.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="7"> class="hljs-ln-code"> class="hljs-ln-line">        t.color(self.color)        #雪花颜色
    8.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="8"> class="hljs-ln-code"> class="hljs-ln-line">        for i in range(6):        #循环画六个雪花瓣
    9.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="9"> class="hljs-ln-code"> class="hljs-ln-line">            t.forward(x*5)
    10.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="10"> class="hljs-ln-code"> class="hljs-ln-line">            t.backward(x*2)
    11.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="11"> class="hljs-ln-code"> class="hljs-ln-line">            t.left(60)
    12.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="12"> class="hljs-ln-code"> class="hljs-ln-line">            t.forward(x*2)
    13.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="13"> class="hljs-ln-code"> class="hljs-ln-line">            t.backward(x*2)
    14.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="14"> class="hljs-ln-code"> class="hljs-ln-line">            t.right(120)
    15.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="15"> class="hljs-ln-code"> class="hljs-ln-line">            t.forward(x*2)
    16.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="16"> class="hljs-ln-code"> class="hljs-ln-line">            t.backward(x*2)
    17.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="17"> class="hljs-ln-code"> class="hljs-ln-line">            t.left(60)
    18.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="18"> class="hljs-ln-code"> class="hljs-ln-line">            t.backward(x*3)
    19.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="19"> class="hljs-ln-code"> class="hljs-ln-line">            t.right(60)     
     class="hljs-button signin" data-title="登录后复制" data-report-click="{"spm":"1001.2101.3001.4334"}" onclick="hljs.signin(event)">

    移动函数 

    1.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="1"> class="hljs-ln-code"> class="hljs-ln-line">  def move(self):                    #雪花移动函数
    2.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="2"> class="hljs-ln-code"> class="hljs-ln-line">        if self.y >= -500:            #当雪花还在画布中时
    3.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="3"> class="hljs-ln-code"> class="hljs-ln-line">            self.y -= self.speed     #设置上下移动速度
    4.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="4"> class="hljs-ln-code"> class="hljs-ln-line">            self.x -= self.speed * math.sin(self.f)    #设置左右移动速度
    5.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="5"> class="hljs-ln-code"> class="hljs-ln-line">            self.f -= 0.1            #可以理解成标志，改变左右移动的方向
    6.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="6"> class="hljs-ln-code"> class="hljs-ln-line">        else:                        #当雪花漂出了画布时，重新生成一个雪花
    7.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="7"> class="hljs-ln-code"> class="hljs-ln-line">            self.r = 6        
    8.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="8"> class="hljs-ln-code"> class="hljs-ln-line">            self.x = ra.randint(-1000,1000)
    9.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="9"> class="hljs-ln-code"> class="hljs-ln-line">            self.y = 500
    10.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="10"> class="hljs-ln-code"> class="hljs-ln-line">            self.f = ra.uniform(-3.14,3.14)
    11.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="11"> class="hljs-ln-code"> class="hljs-ln-line">            self.speed = ra.randint(5,10)
    12.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="12"> class="hljs-ln-code"> class="hljs-ln-line">            self.color = ra.choice(colors)
    13.  class="hljs-ln-numbers"> class="hljs-ln-line hljs-ln-n" data-line-number="13"> class="hljs-ln-code"> class="hljs-ln-line">            self.outline = 5  
     class="hljs-button signin" data-title="登录后复制" data-report-click="{"spm":"1001.2101.3001.4334"}" onclick="hljs.signin(event)">
    id="blogExtensionBox" style="width:400px;margin:auto;margin-top:12px" class="blog-extension-box"> class="blog_extension blog_extension_type1" id="blog_extension"> class="blog_extension_card" data-report-click="{"spm":"1001.2101.3001.6470"}"> class="blog_extension_card_left"> class="blog_extension_card_cont"> class="blog_extension_card_cont_l"> Want595 class="blog_extension_card_cont_r"> 微信公众号 获取源码丨商务合作丨交流讨论
    注：本文转载自blog.csdn.net的Bob Liu的文章"https://blog.csdn.net/jinguangliu/article/details/78067768"。版权归原作者所有，此博客不拥有其著作权，亦不承担相应法律责任。如有侵权，请联系我们删除。
    复制链接
    复制链接
    相关推荐
    发表评论

    评论记录：

    未查询到任何数据！