如何向所有Google App Engine实例广播数据？

Question

为简单起见，假设我的应用程序需要允许数千名用户查看聊天室的实时只读流。 主机可以键入消息，但没有其他用户可以 - 他们只是实时查看主机键入的内容。 想象一下，用户正在关注体育赛事的文字游戏。

每个用户通过使用对GAE服务器的简单/get-recent-messages调用每秒轮询一次来检查新消息。 （在您提出要求之前，我相信使用Google的频道API会太昂贵。）

考虑到这个应用程序同时被成千上万的用户使用，这意味着运行了数十到数百个GAE实例，我如何获得这些/get-recent-messages调用以返回最小聊天室消息，延迟小于1000毫秒，同时最小化服务器负载和GAE成本？

我有一些想法：

1. 在数据存储区实体中存储聊天消息。
   • 显然，这太慢而且昂贵，尤其是在使用查询/索引时
2. 在memcache密钥中存储聊天消息。 我想我会使用一个密钥来存储最近50条消息的密钥列表，然后再使用50个密钥，每条消息一个。
   • 这会导致巨大的瓶颈，因为App Engine的memcache按密钥进行分片，因此所有500个实例将不断地从相同的memcache密钥读取，从而读取相同的memcache服务器。
3. 将聊天消息存储在实例内存中，由memcache支持。 当实例内存过时时，从memcache（比如＃2）中拉出来。
   • 当多个请求看到过时的实例内存缓存并同时从memcache中拉出时，这可能会导致昂贵的竞争条件。
4. 使用后台线程从memcache更新实例内存。 这可以使用在预热请求中启动的线程每个实例每秒运行一次。 它会像＃3一样工作，但只有一个线程拉而不是随机请求触发memcache读取。
   • 我不认为这是后台线程在App Engine上的工作方式。 我也不知道这是否适合使用预热请求。
5. 使用Google的发布/订阅服务 。
   • 我不知道这是如何工作的，似乎这个用例可能有点过分。
6. 运行每秒一次的cron作业以从memcache中获取。 除了不依赖于后台线程之外，这将类似于＃4。
   • 我需要这在所有实例每秒运行。 我不相信cron / taskqueue API有办法在所有活动实例上运行作业或任务。

思考？

Answer 1

你应该看看这个视频 。 我会选择memcache / datastore版本和少量缓存（1-2秒），这样您就可以减少为流量提供服务所需的实例数量。 如果您仍然需要100-500个实例来为您的流量提供服务，我仍然会选择memcache / datastore版本。 如果memcache是​​你的瓶颈，请将它分成10个键。

另一种解决方案是使用Compute Engine和Web服务器，您可以通过套接字连接用户。 您可以通过HTTP与计算实例通信，并将值存储在内存中或使用pull队列。

如果您确实需要与所有实例进行通信，请查看模块之间的通信

Pub / sub可能是您在发布新消息的实例与读取新消息的实例之间进行通信的一个很好的选择。 根据我在文档中阅读的内容，您应该能够直接将您的用户订阅到Pub / Sub（仅拉出）。