最近，我在运行推理服务器时遇到了 triton 服务配置文件禁用标志“--strict-model-config=false”的解决方案。 这将能够在从模型存储库加载模型时创建自己的配置文件。 我想从 triton 推理服务器获取生成的配置文件，因为我们可以使用批处理配置和其他参数。 有没有办法 ...

我尝试运行 NVIDIA 的 Triton 推理服务器。 我拉了预建的容器 nvcr.io/nvidia/pytorch:22.06-py3 然后用命令运行它 并得到了错误 我用谷歌搜索并没有找到可以捕捉到这个的东西。 我尝试按照建议将 tritonserver 更改为 trtserver ...

我有一个 tensorflow model 输入字符串参数。 Triton Java api 中的字符串使用什么类型？ 例如。 Model定义 客户端代码 ...

我无法在Joyent SmartOS实例中使用dtrace获取任何Java堆栈。 我尝试了java:15.1.1映像和一个简单的SmartOS'base64'映像，我安装了openjdk 8。 我最基本的例子：cat Loop.java 我按照建议添加了libdtrace_f ...

最近开发了一些用于运行docker容器甚至app容器的替代方案。 我知道有来自coreos（ https://coreos.com/blog/rocket/ ）和来自joyent（ https://www.joyent.com/ ）的triton的rkt 这两种方法相比如何？ ...

我正在尝试在jwilder/nginx-proxy平台上设置jwilder/nginx-proxy容器。 该容器需要访问docker.sock才能读取有关其环境的信息。 基本上需要做 在特里顿，这失败像 有什么想法可以将docker.sock注入triton的容器中吗？ ...