美文网首页
hadoop解除safemode-安全模式

hadoop解除safemode-安全模式

作者: _火山_ | 来源:发表于2018-09-08 00:07 被阅读0次

火山日常啰嗦
今天想删除hdfs上的某个目录时,总是报错,苦恼了很久才解决。

烦恼是一定会有的,但不能一直烦恼下去,因为问题总要解决的。后来我静下心,仔细查看日志中的错误信息,发现报的是这样的错误:
org.apache.hadoop.dfs.SafeModeException: Cannot delete /user/hadoop/input. Name node is in safe mode
这个错误意思是说namenode节点当前处于安全模式,此时不能对hdfs上的数据进行修改。

了解了问题发生的原因后,我就循着这个方向google查找解决方法,大部分的解决方法都是说,集群启动后都会先进入安全模式,这种情况下只要等待一会儿就可以自动退出安全模式了,然而等了挺长一段时间之后再次请求写任务,依然报错。

既然等解决不了问题,我就尝试强制退出安全模式,shell中执行:

hdfs dfsadmin -safemode leave

就可以强制退出安全模式。

hdfs dfsadmin -safemode value
value有四种选择:
enter 进入安全模式
get 获取安全模式的状态
leave 强制退出安全模式
wait 等待安全模式结束

我就执行了

hdfs dfsadmin -safemode leave

执行结果显示safemode is off
然后执行

hdfs dfsadmin -safemode get

查看namenode安全模式状态,又变成safemode is on 了,刚才不还是off吗,不是退出了吗?怎么又这样呢?

百思不得其姐,后来查到一篇文章里说到当硬盘使用超过90%时,namenode就会进入安全模式,强制退出也不行。

发生这种情况,要么对硬盘扩容,要么删除硬盘中的某些文件,释放空间。

我刹那间像是看到了曙光一般,因为我有一次为了模拟数据倾斜,向hdfs上传了多个大小为3G的文件,所以该问题很有可能就是磁盘使用过度导致的,但由于此时namenode处于safemode,我想删除hdfs上的数据也行不通(namenode处于安全模式是无法执行写任务的),又不想扩容,所以我最后就选择了使用虚拟机快照功能将节点恢复到上一次生成快照时的状态。
ps:我这只是不得已而为之,这种办法不推荐的(这种感觉就跟恢复系统出厂设置一样,所以不推荐哈)。

恢复后等了一会儿后执行hdfs dfsadmin -safemode get查看状态,真的退出了,果然正确,就是硬盘空间使用过度导致的安全模式无法退出。

一般情况下安全模式是可以等待它自动退出或者强制退出的,因为namenode启动后要加载元数据信息到内存,所以都会进入safemode的状态,当集群准备好了之后,就会退出safemode了。

相关文章

  • hadoop解除safemode-安全模式

    火山日常啰嗦今天想删除hdfs上的某个目录时,总是报错,苦恼了很久才解决。 烦恼是一定会有的,但不能一直烦恼下去,...

  • ubuntu16.04 hadoop Namenode mode

    1.查看安全模式命令 2.解除安全模式命令 3.启动安全模式命令

  • Hadoop安全模式

    自动进入安全模式的原因可能有:1) 集群进行节点的剔除(此时有些数据副本的block被发现丢失,因此会进入安全模...

  • HDFS的安全模式

    安全模式是hadoop的一种保护机制,用于保证集群中的数据块的安全性。如果HDFS处于安全模式,则表示HDFS是只...

  • Hadoop开启Kerberos安全模式

    Hadoop开启Kerberos安全模式,基于已经安装好的Hadoop的2.7.1环境,在此基础上开启Kerber...

  • 启动dnf安全模式的win10系统操作步骤

    今天,我将给大家详细介绍一下win10系统解除dnf安全模式的操作方法。当账户处于dnf安全模式时,游戏中的交易、...

  • 异常Kafka'修复'记

    近期由于测试Flink安全模式,找到一个安全的hadoop&kafka集群,测试过程中发现kafka集群各种异常(...

  • win10系统,怎么解除安全模式?win10安全模式解除方法

    安全模式是Windows系统调节和修复的专用型模式,假如碰到繁杂常见故障难题,能够开机按F8进到安全模式开展修复....

  • 51cto赵强HADOOP学习(一)

    安装linux和jdk.上传jdk和hadoop 安装hadoop(上传hadoop) 本地模式 伪分布模式 全分...

  • hadoop学习02

    hadoop学习笔记 - HDFS - 完全分布式模式 Hadoop完全分布式模式结构 hadoop01hadoo...

网友评论

      本文标题:hadoop解除safemode-安全模式

      本文链接:https://www.haomeiwen.com/subject/kyzhgftx.html