Oozie Java操作：传递Hbase类路径

我正在通过oozie java操作运行测试hbase java程序。遇到以下错误：Oozie Java操作：传递Hbase类路径

Failing Oozie Launcher, Main class [HbaseTest], main() threw exception, org/apache/hadoop/hbase/HBaseConfiguration 
java.lang.NoClassDefFoundError: org/apache/hadoop/hbase/HBaseConfiguration 
at HbaseTest.main(HbaseTest.java:28) 
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method) 
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39) 
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25) 
at java.lang.reflect.Method.invoke(Method.java:597) 
at org.apache.oozie.action.hadoop.LauncherMapper.map(LauncherMapper.java:495) 
at org.apache.hadoop.mapred.MapRunner.run(MapRunner.java:50) 
at org.apache.hadoop.mapred.MapTask.runOldMapper(MapTask.java:417) 
at org.apache.hadoop.mapred.MapTask.run(MapTask.java:332) 
at org.apache.hadoop.mapred.Child$4.run(Child.java:268) 
at java.security.AccessController.doPrivileged(Native Method) 
at javax.security.auth.Subject.doAs(Subject.java:396) 
at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1438) 
at org.apache.hadoop.mapred.Child.main(Child.java:262) 
Caused by: java.lang.ClassNotFoundException: org.apache.hadoop.hbase.HBaseConfiguration 
at java.net.URLClassLoader$1.run(URLClassLoader.java:202) 
at java.security.AccessController.doPrivileged(Native Method) 
at java.net.URLClassLoader.findClass(URLClassLoader.java:190) 
at java.lang.ClassLoader.loadClass(ClassLoader.java:306) 
at sun.misc.Launcher$AppClassLoader.loadClass(Launcher.java:301) 
at java.lang.ClassLoader.loadClass(ClassLoader.java:247) 
... 14 more

程序的命令行运行正常：

java -cp `hbase classpath` HbaseTest

有没有一种方法，我可以通过“HBase的类路径”到Oozie的Java的动作输出。我不想将hbase jar复制到工作流的lib目录，因为这将成为维护开销。

以下是从workflow.xml java的动作：

<java> 
     <job-tracker>${jobTracker}</job-tracker> 
     <name-node>${nameNode}</name-node> 
     <configuration> 
      <property> 
       <name>mapred.job.queue.name</name> 
       <value>${queueName}</value> 
      </property> 
     </configuration> 
     <main-class>HbaseTest</main-class> 
     <java-opts></java-opts> 
     <arg>HELLO</arg> 
    </java>

来源

2014-10-01 NZ.

由于Oozie的2.3，你可以使用共享库：

Oozie的支持工作和系统共享库工作流程作业。

共享库可以简化跨工作流应用程序的通用组件的部署和管理。

例如，如果工作流作业使用共享库与Streaming，Har JAR文件，则不必捆绑工作流应用程序库/路径中的那些JAR文件。

如果工作流作业使用共享库，则Oozie会将所有JAR/SO文件包含在库的classpath/libpath中以执行其所有操作。

工作流程作业可以使用作业属性oozie.libpath指定共享库路径。

工作流作业可以通过将作业属性oozie.use.system.libpath设置为true来使用系统共享库。

http://oozie.apache.org/docs/3.2.0-incubating/WorkflowFunctionalSpec.html#a17_HDFS_Share_Libraries_for_Workflow_Applications_since_Oozie_2.3

如何安装： http://oozie.apache.org/docs/4.0.0/DG_QuickStart.html#OozieShareLib

来源

2014-10-27 20:09:35 pedromrnd

Oozie Java操作：传递Hbase类路径

回答

相关问题