2016-09-15 58 views
5

我试图使用spark-streaming2.0.0消费一个kafka 0.8主题,我试图找出所需的依赖关系我尝试过在我的build.sbt文件中使用这些依赖关系与Kafka 2.0.0依赖关系的火花流传输

libraryDependencies += "org.apache.spark" %% "spark-streaming_2.11" % "2.0.0" 

当我运行SBT包我得到未解决的依赖于这三个罐子,

但这些罐子确实存在

https://mvnrepository.com/artifact/org.apache.spark/spark-streaming-kafka-0-8_2.11/2.0.0

请在调试这个问题上需要帮助,我是新来斯卡拉所以请让我知道,如果我不这样做正确的事情

回答

8

的问题是,你指定使用%%斯卡拉版本,试图以推断您正在使用的Scala版本。

要么删除一个%

libraryDependencies += "org.apache.spark" % "spark-core_2.11" % "2.0.0" 
libraryDependencies += "org.apache.spark" % "spark-streaming_2.11" % "2.0.0" 
libraryDependencies += "org.apache.spark" % "spark-streaming-kafka-0-8_2.11" % "2.0.0" 

或删除斯卡拉版本:

libraryDependencies += "org.apache.spark" %% "spark-core" % "2.0.0" 
libraryDependencies += "org.apache.spark" %% "spark-streaming" % "2.0.0" 
libraryDependencies += "org.apache.spark" %% "spark-streaming-kafka-0-8" % "2.0.0" 
+0

是的这是个问题感谢您指出 – user2359997

+0

@ user2359997你的欢迎。 –