有没有办法将Sqoop连接到不同的Hadoop群集,以便可以创建多个Sqoop作业来将数据导出到多个hadoop群集?如何将Sqoop连接到多个hadoop群集
0
A
回答
1
将数据导出到多个Hadoop集群
如果数据进入Hadoop的,这是技术上的一个Sqoop进口
不清楚如何你现在从一台计算机管理不同的集群,但你会需要有可用于Sqoop读取的所有环境的conf文件夹
sqoop命令行程序是一个包装器,它运行Hadoop附带的脚本。如果您的计算机上存在多个Hadoop安装,则可以通过设置
$HADOOP_HOME
环境变量来选择Hadoop安装。例如:
$ HADOOP_HOME=/path/to/some/hadoop sqoop import --arguments...
或:
$ export HADOOP_HOME=/some/path/to/hadoop $ sqoop import --arguments...
如果
$HADOOP_HOME
没有设置,Sqoop将使用默认安装位置Cloudera的分销Hadoop的,/usr/lib/hadoop
。
主动Hadoop配置从$HADOOP_HOME/conf/
加载,除非$HADOOP_CONF_DIR
环境变量设置
https://sqoop.apache.org/docs/1.4.6/SqoopUserGuide.html#_controlling_the_hadoop_installation
根据设置如何你的Hadoop,Hortonworks只有Sqoop 1,而Cloudera的(也许MAPR)有Sqoop2,这些指令可能不同,因为Sqoop2架构不同。
相关问题
- 1. 如何将mac连接到hadoop/hdfs集群
- 2. 用C#.Net连接到hadoop集群
- 3. h2o连接到hadoop集群上的集群
- 4. 整合多个Hadoop集群
- 5. Hadoop集群和客户端连接
- 6. 将Hadoop配置为多节点群集
- 7. Hadoop和informix之间使用Sqoop连接
- 8. Hadoop多主集群设置
- 9. 如何估算Hadoop集群?
- 10. 将客户端连接到JBoss集群
- 11. 将Kundera连接到Cassandra集群
- 12. 将GraphViz集群连接到自身
- 13. mongodb连接到atlas集群
- 14. 连接到neo4j HA群集
- 15. 如何将Pentaho 6.0连接到Hadoop-Hive
- 16. 为Hadoop集群
- 17. 如何与边缘节点上运行的Hadoop集群时连接到帕拉
- 18. 如何配置PHP PDO以连接到多主群集?
- 19. 将两台桌面PC连接到多节点集群Cassandra
- 20. 如何将PySpark(本地机器)连接到我的EMR群集?
- 21. 如何将EMR集群连接到EC2服务器
- 22. 将连接字符串连接到SQL Server群集
- 23. Hadoop集群与码头群
- 24. Elasticsearch集群连接
- 25. 如何将新节点添加到活动hbase/hadoop群集?
- 26. 如何将数据从边缘节点加载到Hadoop集群?
- 27. 如何让Hadoop将jar部署到集群?
- 28. 将连接与Hadoop连接
- 29. Hbase Hadoop集群.. java.io.IOException:java.lang.NoSuchMethodExceptio
- 30. Hadoop集群工作
我认为Sqoop2可以做到这一点,但Sqoop1与您的hdfs配置文件密切相关 –
@ cricket_007您能指点我一些关于Sqoop2如何做的文档。 – Shengjie
sqoop.apache.org提供您需要的所有信息 –