如何处理每分钟请求从500到5000时的缩放比例

Question

我有一个应用程序，从500 rpm到5000，并在那里停留20-30分钟。我知道这并不是一大堆请求，但它的跳跃幅度让我非常吃惊。 AWS-EC2需要5分钟的时间来扩大规模，因此当事情进展如此之快时，这并没有什么帮助。也许多个数据库处理应用程序的不同部分。

如果您在一分钟内总是从500转换到5000RPM或更高，您将如何去分析和思考基础设施？

这是图表从我的AWS日志：

Answer 1

如果你能预测，需求将在某些时候你可以自动化新实例的供应增加。如果你不能确定这一点，那么你需要做适当的容量规划。例如，您需要运行多少个服务器/容器才能承受可接受的用户体验的负载？这将是决定的关键。

你也应该看看实施异步消息传递模式，卸载峰值，虽然这可能会带来一些性能下降。

一个额外的考虑是转向无服务器体系结构，如AWS Lambda。这可能不会完全解决问题，但会为您提供更多的快速提供按需基础架构的能力。