Node.js CPU 在多个 CPU 内核上负载平衡 Websocket 客户端

Question

我的 node.js 应用程序当前订阅了许多 websocket 服务器，这些服务器开始每秒向应用程序推送大量数据。 这个 websocket 客户端应用程序有几个事件处理程序，它们在接收 websocket 数据时做一些工作。

然而，Node.js 似乎在任何时候都只使用 1 个 CPU 核心，而其余的核心未被利用。 这是预期的，因为 Node.js 使用单线程事件循环模型。

是否可以在多个 CPU 内核上对传入的 websocket 数据处理进行负载平衡？ 我知道如果您正在运行 websocket 服务器，节点集群和pm2集群模式能够实现负载平衡，但是 websocket 客户端呢？

Answer 1

从客户端，我可以想到以下选项：

1. 创建一些子进程（可能为您拥有的每个 CPU 核心创建一个），然后在这些子进程之间划分您的 webSocket 连接。

2. 创建 node.js WorkerThreads （可能为您拥有的每个 CPU 内核创建一个），然后在这些 WorkerThreads 之间划分您的 webSocket 连接。

3. 创建 node.js WorkerThreads （可能为您拥有的每个 CPU 内核创建一个）并创建一个工作队列，其中来自各种 webSocket 连接的每个传入数据都被放入工作队列。 然后，WorkerThreads 是从队列中定期分派的数据以进行处理。 当他们完成一条数据时，他们会从队列中获得下一条数据，依此类推……

如何最好地解决这个问题实际上取决于 CPU 时间主要花在哪里。 如果处理传入数据的时间最长，那么这些解决方案中的任何一个都将有助于将多个 CPU 应用于该任务。 如果是实际接收传入数据，那么您可能需要像前两个选项一样将传入的 webSockets 本身移动到新的线程/进程。

如果这是由于数据量导致的系统带宽问题，那么您可能需要增加网络连接的带宽，可能需要涉及多个网络适配器。