我一直在Scala中使用Spark。我现在正在研究pySpark和SparkR。我没有看到为PySpark和SparkR提到的流式传输。是否有人知道在使用Python和R时是否可以使用Spark流?sparkR流媒体?
1
A
回答
4
Spark现在支持1.3中的pySpark流媒体。并且可以在https://github.com/hlin09/spark/tree/SparkR-streaming中找到SparkR流的实现。
1
目前(自Spark 1.1起),Spark Streaming仅在Scala & Java中受支持。如果您想要使用特定的R程序或Python程序,则可以查看RDD上的管道接口以及DStream上的转换函数。这有点尴尬,但它可能是目前在Spark Streaming中使用Python或R代码最简单的方法。
0
sparkR流不可用,直到最新版本的Apache 2.1.1火花
但我们可以用sparkR流从GitHub使用MVN
https://github.com/hlin09/spark/tree/SparkR-streaming
构建火花,那么你就可能把做sparkR流媒体。
相关问题
- 1. 流媒体到Adobe媒体服务器
- 2. Android媒体播放器流媒体
- 3. 通过udp流媒体h264/aacplus媒体
- 4. 流媒体直播Icecast流
- 5. 流媒体长度
- 6. ReadTimeoutError:Twitter流媒体API
- 7. 流媒体元素
- 8. Android MediaRecorder流媒体
- 9. 流媒体视频达尔文流媒体服务器问题
- 10. VLC桌面流媒体
- 11. NSURLSession和Twitter流媒体API
- 12. VLC上的RTSP流媒体
- 13. MJPEG流媒体和解码
- 14. 在PHP中流媒体
- 15. 实时流媒体视频
- 16. Android MediaPlayer暂停流媒体
- 17. 流媒体视频FROM iPhone
- 18. 流媒体摄像头rtmp
- 19. PetitFS流媒体阅读
- 20. iOS流媒体MP3文件
- 21. Silverlight流媒体上传
- 22. 托管流媒体内容
- 23. WCF流媒体文件
- 24. 流媒体上传请求?
- 25. 学习火花流媒体
- 26. 流媒体源的MediaMetadataRetriever
- 27. PhoneGap和流媒体音频?
- 28. MP3流媒体应用
- 29. 流媒体到Android MediaPlayer
- 30. WCF流媒体服务
Spark Streaming的Python支持应该很快添加!有一个开放的拉请求:https://github.com/apache/spark/pull/2538 – 2014-10-01 00:50:19