嗨,我正在学习hadoop,我有一个简单的愚蠢问题:在我关闭HDFS(通过调用hadoop_home/sbin/stop-dfs.sh)后,HDFS上的数据丢失了还是可以恢复?如果你停止HDFS关闭hadoop HDFS后数据丢失了?
1
A
回答
7
的数据不会丢失,只要你NameNode和DataNode会的数据存储在持久位置使用的属性所指定:
dfs.namenode.name.dir
- >确定,其中在本地文件系统的DFS名称节点应该存储名称表(fsimage)。如果这是一个以逗号分隔的目录列表,则名称表将被复制到所有目录中,以实现冗余。默认值:file://${hadoop.tmp.dir}/dfs/name
dfs.datanode.data.dir
- >确定本地文件系统上DFS数据节点应该存储其块的位置。如果这是以逗号分隔的目录列表,则数据将存储在所有已命名的目录中,通常位于不同的设备上。不存在的目录被忽略。默认值:file://${hadoop.tmp.dir}/dfs/data
正如你可以看到,这两个属性的默认值指向${hadoop.tmp.dir}
默认为/tmp
。您可能已经知道基于Unix的系统中的/tmp
中的数据在重新引导时被清除。
因此,如果您要指定除/tmp
之外的dir位置,则重启时的Hadoop HDFS守护程序将能够读回数据,因此即使在群集重新启动时也不会丢失数据。
0
请确定你是不是删除存储在HDFS数据的元数据,这可以简单地实现,如果你保持dfs.namenode.name.dir
和dfs.datanode.data.dir
untouced,是指不删除路径存在于目前在hdfs-site.xml
文件中的这些标签。
相关问题
- 1. 当Hadoop集群关闭时,数据是否保留在HDFS中?
- 2. 关闭wifi后关闭Tizen可穿戴传感器数据丢失
- 3. Sql Server 2008在数据库丢失后关闭连接
- 4. 关闭ssh终端后模板丢失
- 5. 从hadoop hdfs数据搜索
- 6. 写AVRO数据到Hadoop hdfs
- 7. Hadoop - HDFS Namenode元数据 - FSImage
- 8. Hadoop HDFS依赖关系
- 9. POST后丢失ViewModel数据
- 10. 做session.invalidate后丢失数据
- 11. 了解更多的Hadoop/HDFS数据加载
- 12. 嵌入式文件系统中的数据丢失关闭系统后的UBIFS
- 13. Cordova - 关闭通知会丢失它里面的数据
- 14. 连接关闭时可能会丢失数据
- 15. 离开后.get数组丢失数据
- 16. Matplotlib plot_date x轴标签关闭了几天,部分丢失
- 17. 重新连接后TCP数据丢失。
- 18. VB.net丢失数据
- 19. PollingPattern丢失了部分数据
- 20. 将MySQL数据导入MS Access时丢失了关系
- 21. Hadoop日志文件丢失
- 22. 在viewpager中更改页面后,RecylerView数据丢失了吗?
- 23. 重新安装wampserver后数据库表丢失了
- 24. Xamarin Android重新打开应用后丢失了数据
- 25. 数据丢失
- 26. cakephp $ this->数据在表单提交后丢失了很多数据数组
- 27. 连接丢失时自动关闭PuTTY
- 28. 关闭浏览器会话丢失
- 29. HBase记录在关闭时丢失
- 30. 关闭FFMPEG如果连接ipcam丢失