我有时间序列数据流逐点,比如说每5秒钟。点可能不按顺序到达。我想实时汇总到更高的时间段,比如说5米,30米,60米。我主要关心的是快速读取。即时汇总时间序列数据
我对什么技术是常见的执行这种实时聚合感兴趣。我想我要在磁盘上需要一个长期存储,但是对于接近实时的点,我认为我应该将它们存储在内存中,以便更容易聚合。
将它们存储在内存高速缓存(Redis)中,然后定期触发一个计算聚合和刷新到磁盘的作业是首选方法吗?如果是这样,如果我在定期工作结束后得到了点数,该怎么办?我回去扔掉那个点再计算一次吗?
我可能在这里回答我自己的问题,但我正在寻找任何替代方案。
在此先感谢。克里斯:-)