1
我的最终目标是用spark运行iPython。我有一个带有Anaconda,Spark 1.6.0,py4j 0.9和jdk 1.8.0_73的Mac(El Capitan)。我运行sbt assembly
时,出现内存不足的错误。我试过设置SBT_OPTS
但它没有帮助。sbt程序集错误 - 内存不足
$ echo $SBT_OPTS
-Xmx2G -XX:+UseConcMarkSweepGC -XX:+CMSClassUnloadingEnabled -XX:PermSize=256M -XX:MaxPermSize=1024M`
所以我试着用maven安装。
./make-distribution.sh --name custom-spark --tgz -Psparkr -Phadoop-2.4 -Phive -Phive-thriftserver -Pyarn
这对我也不起作用。我收到以下错误
[INFO] Spark Project Unsafe ............................... SUCCESS [ 9.739 s]
[INFO] Spark Project Core ................................. FAILURE [01:13 min]
.
.
.
[INFO] BUILD FAILURE
[INFO] ------------------------------------------------------------------------
[INFO] Total time: 01:54 min
[INFO] Finished at: 2016-02-12T01:05:51-08:00
[INFO] Final Memory: 55M/685M
[INFO] ------------------------------------------------------------------------
[ERROR] Failed to execute goal org.codehaus.mojo:exec-maven-plugin:1.4.0:exec (sparkr-pkg) on project spark-core_2.10: Command execution failed. Process exited with an error: 127 (Exit value: 127) -> [Help 1]
我试图搜索错误127,但没有找到任何解决我的问题。我不知道我是否有某种防火墙设置(已使用家庭网络)
任何帮助/指针将非常感谢!