如何从外部访问docker中的JMX接口？

Question

我正在尝试远程监控在 docker 中运行的 JVM。 配置如下所示：

• 机器 1：在 ubuntu 机器上的 docker 中运行 JVM（在我的情况下，运行 kafka）； 本机IP为10.0.1.201； 在 docker 中运行的应用程序位于 172.17.0.85。

• 机器 2：运行 JMX 监控

请注意，当我从机器 2 运行 JMX 监控时，它失败并显示以下错误版本（注意：运行 jconsole、jvisualvm、jmxtrans 和 node-jmx/npm:jmx 时发生相同的错误）：

对于每个 JMX 监视工具，失败时的堆栈跟踪类似于以下内容：

java.rmi.ConnectException: Connection refused to host: 172.17.0.85; nested exception is
    java.net.ConnectException: Operation timed out
    at sun.rmi.transport.tcp.TCPEndpoint.newSocket(TCPEndpoint.java:619)
    (followed by a large stack trace)

现在有趣的部分是，当我在运行 docker（上面的机器 1）的同一台机器上运行相同的工具（jconsole、jvisualvm、jmxtrans 和 node-jmx/npm:jmx）时，JMX 监控正常工作。

我认为这表明我的 JMX 端口处于活动状态并且工作正常，但是当我远程执行 JMX 监控（从机器 2）时，JMX 工具似乎无法识别内部 docker IP (172.17.0.85)

以下是 JMX 监控工作的机器 1 上的相关（我认为）网络配置元素（注意 docker ip，172.17.42.1）：

docker0   Link encap:Ethernet  HWaddr ...
      inet addr:172.17.42.1  Bcast:0.0.0.0  Mask:255.255.0.0
      inet6 addr:... Scope:Link
      UP BROADCAST RUNNING MULTICAST  MTU:1500  Metric:1
      RX packets:6787941 errors:0 dropped:0 overruns:0 frame:0
      TX packets:4875190 errors:0 dropped:0 overruns:0 carrier:0
      collisions:0 txqueuelen:0
      RX bytes:1907319636 (1.9 GB)  TX bytes:639691630 (639.6 MB)

wlan0     Link encap:Ethernet  HWaddr ... 
      inet addr:10.0.1.201  Bcast:10.0.1.255  Mask:255.255.255.0
      inet6 addr:... Scope:Link
      UP BROADCAST RUNNING MULTICAST  MTU:1500  Metric:1
      RX packets:4054252 errors:0 dropped:66 overruns:0 frame:0
      TX packets:2447230 errors:0 dropped:0 overruns:0 carrier:0
      collisions:0 txqueuelen:1000
      RX bytes:2421399498 (2.4 GB)  TX bytes:1672522315 (1.6 GB)

这是我收到 JMX 错误的远程机器（机器 2）上的相关网络配置元素：

lo0: flags=8049<UP,LOOPBACK,RUNNING,MULTICAST> mtu 16384
    options=3<RXCSUM,TXCSUM>
    inet6 ::1 prefixlen 128 
    inet 127.0.0.1 netmask 0xff000000 
    inet6 fe80::1%lo0 prefixlen 64 scopeid 0x1 
    nd6 options=1<PERFORMNUD>

en1: flags=8863<UP,BROADCAST,SMART,RUNNING,SIMPLEX,MULTICAST> mtu 1500
    ether .... 
    inet6 ....%en1 prefixlen 64 scopeid 0x5 
    inet 10.0.1.203 netmask 0xffffff00 broadcast 10.0.1.255
    nd6 options=1<PERFORMNUD>
    media: autoselect
    status: active

Answer 1

为了完整起见，以下解决方案有效。 JVM 应使用特定参数运行以启用远程 docker JMX 监控，如下所示：

-Dcom.sun.management.jmxremote
-Dcom.sun.management.jmxremote.authenticate=false
-Dcom.sun.management.jmxremote.ssl=false
-Dcom.sun.management.jmxremote.port=<PORT>
-Dcom.sun.management.jmxremote.rmi.port=<PORT>
-Djava.rmi.server.hostname=<IP>

where:

<IP> is the IP address of the host that where you executed 'docker run'
<PORT> is the port that must be published from docker where the JVM's JMX port is configured (docker run --publish 7203:7203, for example where PORT is 7203). Both `port` and `rmi.port` can be the same. 

完成此操作后，您应该能够从本地或远程机器执行 JMX 监控（jmxtrans、node-jmx、jconsole 等）。

感谢@Chris-Heald使这个修复变得非常快速和简单！

Answer 2

对于开发环境，您可以将java.rmi.server.hostname设置为java.rmi.server.hostname IP 地址0.0.0.0

例子：

 -Djava.rmi.server.hostname=0.0.0.0 \\ -Dcom.sun.management.jmxremote \\ -Dcom.sun.management.jmxremote.port=${JMX_PORT} \\ -Dcom.sun.management.jmxremote.rmi.port=${JMX_PORT} \\ -Dcom.sun.management.jmxremote.local.only=false \\ -Dcom.sun.management.jmxremote.authenticate=false \\ -Dcom.sun.management.jmxremote.ssl=false

Answer 3

我发现尝试通过 RMI 设置 JMX 很痛苦，尤其是因为您必须在启动时指定-Djava.rmi.server.hostname=<IP> 。 我们在一切都是动态的 Kubernetes 中运行我们的 docker 镜像。

我最终使用 JMXMP 而不是 RMI，因为它只需要打开一个 TCP 端口，不需要主机名。

我当前的项目使用Spring，可以通过添加以下内容进行配置：

<bean id="serverConnector"
    class="org.springframework.jmx.support.ConnectorServerFactoryBean"/>

（在 Spring 之外，您需要设置自己的 JMXConncetorServer 才能使其工作）

连同此依赖项（因为 JMXMP 是一个可选扩展，而不是 JDK 的一部分）：

<dependency>
    <groupId>org.glassfish.main.external</groupId>
    <artifactId>jmxremote_optional-repackaged</artifactId>
    <version>4.1.1</version>
</dependency>

并且您需要在启动 JVisualVM 时在您的类路径中添加相同的 jar 以便通过 JMXMP 进行连接：

jvisualvm -cp "$JAVA_HOME/lib/tools.jar:<your_path>/jmxremote_optional-repackaged-4.1.1.jar"

然后使用以下连接字符串连接：

service:jmx:jmxmp://<url:port>

（默认端口为 9875）

Answer 4

挖了很多，我找到了这个配置

-Dcom.sun.management.jmxremote.ssl=false 
-Dcom.sun.management.jmxremote.authenticate=false 
-Dcom.sun.management.jmxremote.port=1098
-Dcom.sun.management.jmxremote.rmi.port=1098
-Djava.rmi.server.hostname=localhost
-Dcom.sun.management.jmxremote.local.only=false

与上面另一个的区别是java.rmi.server.hostname设置为localhost而不是0.0.0.0

Answer 5

为了增加一些额外的见解，我使用了一些 Docker 端口映射，并且之前的答案都没有直接对我有用。 经过调查，我在这里找到了答案： How to connect with JMX from host to Docker container in Docker machine? 以提供所需的见解。

这就是我相信会发生的事情：

我按照其他答案中的建议设置了 JMX：

-Dcom.sun.management.jmxremote.ssl=false 
-Dcom.sun.management.jmxremote.authenticate=false 
-Dcom.sun.management.jmxremote.port=1098
-Dcom.sun.management.jmxremote.rmi.port=1098
-Djava.rmi.server.hostname=localhost
-Dcom.sun.management.jmxremote.local.only=false

程序流程：

• 我运行 Docker 容器并将端口从主机暴露/映射到容器。 假设我在 Docker 中映射端口 host:1099->container:1098。
• 我使用上述 JMX 设置在 docker 内运行 JVM。
• Docker 容器内的 JMX 代理现在侦听给定的端口 1098。
• 我使用 URL localhost:1099 在主机（Docker 外部）上启动 JConsole。 我使用 1099，因为我使用了 1099:1098 的host:docker端口映射。
• JConsole 可以很好地连接到 Docker 中的 JMX 代理。
• JConsole 询问 JMX 在哪里读取监控数据。
• JMX 代理响应配置的信息和地址： localhost:1098
• JConsole 现在尝试连接到给定地址localhost:1098
• 由于本地主机（Docker 外部）上的端口 1098 未在侦听，因此失败。 端口 1099 被映射到Docker:1098 。 而不是localhost:1098 ，JMX 应该告诉 JConsole 从localhost:1099读取监控信息，因为 1099 是从主机映射到 Docker 容器内的 1098 的端口。

作为修复，我将host:docker端口映射从1099:1098更改为1098:1098 。 现在，JMX 仍然告诉 JConsole 连接到localhost:1098以获取监控信息。 但是现在它可以工作了，因为外部端口与 Docker 内部的 JMX 所宣传的相同。

我希望这同样适用于 SSH 隧道和类似的场景。 您必须匹配您配置 JMX 进行通告的内容以及 JConsole 将其视为运行它的主机上的地址空间的内容。

也许可以使用jmxremote.port 、 jmxremove.rmi.port和hostname属性来使用不同的端口映射来完成这项工作。 但是我有机会使用相同的端口，所以使用它们简化了它，这（对我来说）有效。