我正在使用AWS Kinesis写入Elastic Search并以S3作为备份。所以,这是写给两个来源。但是我观察到一个问题,即它不会推到S3,而是推到弹性搜索。那么,它是否定期或类似的?任何解释,如果任何人可以给予赞赏。另外,如果是这样的话,有什么方法可以改变它吗?Kinesis写入ElasticSearch和S3
0
A
回答
0
我在这里发现了问题。因此,每个Elastic Search和S3都有配置,用于定义何时写入它们。检查缓冲区大小和缓冲时间。
它在AWS的Kinesis常见问题解答中提到: -
问:什么是缓冲区大小和缓冲的时间间隔?
Amazon Kinesis Firehose将传入的流式数据缓存到特定大小或一段时间,然后将其传递到目标。您可以在创建传送流时配置缓冲区大小和缓冲区间隔。缓冲区大小以MB为单位,对于Amazon S3目标为1MB至128MB,对于Amazon Elasticsearch服务目标,缓冲区大小为1MB至100MB。缓冲区间隔以秒为单位,范围从60秒到900秒。请注意,在数据传输到目的地的数据写入传输流的情况下,Firehose动态地提高缓冲区大小以赶上并确保所有数据都传递到目标。
来源 - https://aws.amazon.com/kinesis/firehose/faqs/
所以,在我的情况下,设置是不同的,因此,我以书面形式向S3看到的延迟。
相关问题
- 1. 将Kinesis中的数据写入S3
- 2. 从AWS Kinesis fireshose写入实木复合地板到AWS S3
- 3. Kinesis到s3桶使用Kinesis连接器
- 4. Kinesis - 处理写入ProvisionedThroughputExceededException
- 5. Logstash不写入Elasticsearch
- 6. Elasticsearch snapshots s3
- 7. Elasticsearch curator purge s3
- 8. 从EC2写入S3
- 9. AWS Kinesis Firehose - 使用索引旋转(Elasticsearch)
- 10. 亚马逊Kinesis Firehose缓存到S3
- 11. Kinesis是否公开任何指标/日志以检测写入Kinesis流的源?
- 12. AWS Lambda函数写入S3
- 13. 直接写入到Amazon S3
- 14. Kinesis输入流到Logstash
- 15. 如何将数据写入Kinesis中的特定分片
- 16. 在java程序中获取错误写入Kinesis Firehose流
- 17. 将数据写入Amazon Kinesis的推荐方式
- 18. 有没有办法将数据放入S3存储桶的Kinesis Firehose中?
- 19. 汽车线kinesis流kinesis firehose?
- 20. Elasticsearch关键字和小写和聚集
- 21. 猪通过HCatStorer()向S3写入“成功”,写入0字节
- 22. pyspark - 错误写入dstream到elasticsearch
- 23. 将数据从pyspark写入ElasticSearch
- 24. 无法使用spark写入Elasticsearch
- 25. ElasticSearch找不到新写入的文档
- 26. 允许Cognito用户写入S3
- 27. AWS Lambda Java,写入S3存储桶
- 28. IAM用户无法写入到S3
- 29. Python将临时文件写入S3
- 30. Spark写入S3 V4 SignatureDoesNotMatch错误
你如何从kinesis写入elasticsearch或s3?使用lamdas? – prayagupd
不可以。在Kinesis中,你有一个配置来添加一个目的地。 – hatellla