2013-03-16 46 views
1

我有Hadoop安装和测试好,但无法找到任何n00b指令我在哪里可以找到安装和运行cascading.jruby的教程?

如何设置级联和cascading.jruby。在哪里放置级联罐以及如何配置jading来正确构建红宝石程序集?

是否有人使用jenkins自动构建它?

编辑:更多细节 我试图从https://github.com/etsy/cascading.jruby

构建示例字数的工作,我已经安装了

  1. 的Hadoop,并成功运行测试。
  2. 安装JRuby的
  3. 创业板安装cascading.jruby
  4. 玉 - https://github.com/etsy/jading
  5. 安装蚂蚁

  6. 创建的单词计数抽样wc.rb

  7. 润翡翠编译wc.rb to a jar

    jade wc.rb

  8. 我得到以下编译错误

    Buildfile:build.xml不存在! 构建失败 RuntimeError:蚂蚁找回失败 (根)位于/ usr /斌/ hjade:89

这是合理的看着玉代码,但这不包括在本例中使用?我在这里错过了什么?

+0

你可以发布构建失败的整个痕迹吗? – 2013-03-16 16:03:47

+0

没有更多的堆栈跟踪。这个问题是由于我使用符号链接,脚本没有运行在它的原始文件夹中,而是在错误的地方查找文件。请参阅下面的正在工作的答案。 – velniukas 2013-03-17 09:00:47

回答

7

对不起慢了,这是我的第一个答案,在这里。

您描述的问题,Jading无法从符号链接调用时找到它的Ant构建脚本,确实是一个问题。我建议只是将你的Jading克隆添加到PATH中,而不是创建符号链接(或者提交一个pull请求来修复issue!)。

为了解决您的一些其他问题,我在Jading wiki中创建了一个Getting Started页面,这可能会有所帮助。它引导你通过本地和远程cascading.jruby启动和运行,而不需要安装preqs(Java,Ant,JRuby和Hadoop client + config)之外的任何东西。现在包括一个完整的示例wordcount脚本,它应该在本地和Hadoop集群上运行,并且已经在Etsy自己的内部集群上进行了测试。

为了解决Jenkins的问题,我们使用Jenkins构建和部署cascading.jruby(和Scalding)到我们的集群。然而,这个构建过程目前并不使用Jading来制作工作包。我们的构建早于Jading和Jading,试图发布一个更清晰的版本,我们将构建该jar。我们的构建可以很容易地使用Jading(并且原始示例来自我们的代码的实际使用),但我们对构建产生的构件的要求略有不同。

如果您对Jading有任何其他问题,请随时向github项目提交问题或提出请求。

+0

感谢 - 入门页面非常有帮助 – velniukas 2013-03-25 06:34:49

+0

很高兴帮助。我应该说,对c.j进行更改是有点问题的,因为我有很多(1000s)作业在Etsy内迁移,并且有任何界面更改。但是,我想在某个时候清除可怕的* args反模式的项目 - 当我这样做时,我会做更好的文档传递。另一方面,Jading没有任何装备,所以我可以很快更改它(我甚至还没有开始编号发布或任何其他内容)。 – 2013-03-25 14:11:53

+0

让我知道我是否可以提供帮助。我正在研究移植块的价值来生成c.j.代码图形化为一个小型项目。 – velniukas 2013-03-26 16:17:18

0

如果您使用jruby。您也必须使用捆绑软件。在这种情况下,您可以添加cascading.jruby作为gemfile中的依赖项。

你可以试试,反正从您的项目文件夹中安装为:

gem install 'cascading.jruby'

希望这有助于。

+0

嗨我已经完成了这个,但是我仍然无法从https://github.com/etsy/cascading.jruby使用jade https://github.com/etsy/编译简单的字数统计示例jading - 它指的是所需的build.xml文件,在示例用法中未涉及。 – velniukas 2013-03-16 14:59:25

0

我现在已经完成了工作。 我已经创建符号链接到Hadoop的,在/ usr/local/bin目录jading二进制

脚本需要从自己的目录,以便找到支持文件

即以下工作运行:(假设该cascading.jruby例子是〜的/ dev/cascading.jruby.demo/wc.rb

cd /usr/local/jading 
./jade ~/dev/cascading.jruby.demo/wc.rb 

# creates a jade.jar locally in jading folder 
cd /usr/local/hadoop 
./bin/hadoop jar /usr/local/jading/jade.jar ~/dev/cascading.jruby.demo/wc.rb ~/dev/cascading.jruby.demo/sampledata/in.txt 
相关问题