了解 Google Cloud Platform 上的实例小时数

Question

在 Google Cloud Platform (GCP) 上，我的 Java 应用程序在标准 App Engine (GAE) 上运行。 昨天我部署了该应用程序。 作为该应用程序的唯一用户（直到它上线），我注意到启动时间（又名“预热”）在发出第一个请求时大约为 15 到 30 秒。 如果我每隔几秒继续发出请求，响应时间就会很快（大约一秒或更短）。 但是如果我在大约 10 秒后没有提出请求，下一个请求通常需要 15 到 30 秒才能返回。 这告诉我 GAE 识别出超过 10 秒的空闲时间并决定终止实例。

这当然是不好的。 即使应用程序上线，最初也只有少量用户，请求之间的时间肯定会超过 10 秒。

我决定向应用程序添加一些代码以保持每个微服务的活动。 我通过在任务队列中创建一个任务来实现这一点，该任务将调用一个方法，该方法依次对每个微服务进行 HTTP 调用。 这些是每个服务中的虚拟方法，但它们强制 Java 加载类。 完成所有 HTTP 调用后，我将等待 5 秒钟，然后将另一个任务放入队列并重复相同的过程。 这奏效了。 我注意到我不再看到 15 到 30 秒的预热时间。

我在下午晚些时候启动了应用程序，让它运行了一夜，看看第二天早上会有什么反应。 第二天早上，我注意到响应速度很快，虽然不像以前那么快。 但是大约一个小时后，当我突然收到可怕的“达到配额”响应并且该应用程序不再可用时，我感到非常惊讶。

然后我检查了我的帐单并注意到我已经支付了 1.50 美元。 然而，我的预算设置为 100 美元。 那么为什么会达到我的配额并且应用程序停止接受请求？ 毕竟，即使我达到了配额，我的预算仍然设置为 100 美元，最低警报阈值设置为 50%。

然后我查看了我的账单，看到了以下内容：

前端：2,857.24 分钟（1.03 美元）后端：574.99 分钟（0.03 美元）

所以 2,857 小时大约是 47。因为他们免费给你 28 小时，这意味着我被收取了大约 20 小时的费用。 0.05 美元的 20 倍约为 1.00 美元，这就是我所看到的。

那么，当应用程序运行了大约 12 个小时后，为什么我使用了 47 个小时呢？ 一种可能的原因是 GAE 启动了多个实例。 不幸的是，我没有在实例页面上查看它使用了多少实例，并且由于它每天都会重置它，我不知道。

如果我的“保持活动状态”代码每 5 秒保持实例活动一次，为什么 GAE 还要费心启动另一个实例？ 我的意思是，5 秒间隔的请求很长。 这绝不应该给 GAE 算法一些迹象，表明该实例正在大量使用并且需要启动另一个实例。

我决定停用我的“保持活动”代码并在 GAE 中进行设置，将实例数限制为 1，但我也选择将最小实例数也设置为 1。 我认为这将使实例保持活动状态并处理我的所有请求，并且每天 28 小时永远不会最大化。 或者我误解了这些实例时间是如何工作的？

Answer 1

要回答 47 个实例小时的问题，有几个控制实例使用成本的因素：

1) 实例大小。 较大的实例以最小实例的乘数计算 - 因此一个小时的 F2 与 2 小时的 F1 相同。

2）如果您使用自动扩展进行扩展和缩减，如果您的请求突然激增，有时可以启动多个实例。 关闭实例需要 15 分钟的空闲时间。

3）每个服务都有自己的实例

所以基本上，不要依赖你的流量模式来保持你的成本一致。 如果您需要更严格的控制，您可以使用手动扩展的实例或max-instances 配置

至于您的配额问题，我们需要错误消息来查看您达到的配额，没有“实例时间”配额，因此您可能达到了其他配额。 配额和预算是独立的概念，即使您有无限的预算，一些配额仍然适用（除非您通过请求让我们提高它们）。