2012-03-22 99 views
1

正如标题所说,Hive是否支持游标或类似的东西?我有一个大的查询,我想大块地获取,但我似乎无法找到Hive友好的解决方案。Hive中的光标?

感谢, 凯尔

+0

你是怎么拉数据的? (例如 - 在Java中是这样的吗?您使用的是“命令行”驱动程序还是JDBC驱动程序,或者......) – ruakh 2012-03-22 16:06:32

+0

将它拉入ruby。我正在寻找一种解决方案,它不涉及将它粘在一个变量中,并用红宝石标记。 – kjb 2012-03-22 22:51:47

+0

那么你是否使用Thrift客户端,如http://blog.fingertap.org/post/1255463384/hive-thrift-client所述? – ruakh 2012-03-23 13:38:03

回答

2

据我所知,目前在蜂巢没有这样的事情。你无法真正使用Hive进行分页。您只能执行您的配置单元查询并获取ResultSet,然后遍历它。

有趣的部分是你想如何处理大的结果。您通常不希望将所有结果加载到内存中,而是可以将查询结果回传。例如,如果将结果写入csv,而不是在开始写入csv之前包含所有查询结果的大对象,这可能会耗尽内存,则可以在网络上迭代地处理它们,并以块的形式写入你的csv文件。