什么是 OpenAI API 警告：为避免 invalid_request_error，best_of 设置为等于 n。 什么是“最佳”？

Question

这个“最佳”警告是在运行 Win10 的 PC 上使用 OpenAI API 的结果。

上下文：

在 Jupyter Lab 中使用 OpenAI API 和 ir kernel，在此笔记本中仅安装了 rgpt3 库。

API 成功执行测试代码完成。 并且无论 API 是发出单个还是多个 API 请求，都返回相同的警告。

使用 3 个查询时的结果如下：

[1] "Request: 1/3" 为了避免invalid_request_error ， best_of被设置为等于n

[1] "Request: 2/3" 为了避免invalid_request_error ， best_of被设置为等于n

[1] "Request: 3/3" 为了避免invalid_request_error ， best_of被设置为等于n

在执行多次不成功的 web 搜索后——包括在 Stack Overflow 上搜索有关这些警告的信息，我发现几乎没有任何关于此警告的信息。 这个过程可能还为时过早，因为 OpenAI API 对大多数人来说都是相对较新的。

因此，决定发布有关此警告的问题和答案，否则查找此类信息非常困难且耗时。 对于那些大胆前往以前很少有人去过的地方的用户来说，错误和警告信息不会激发信心。

Answer 1

警告消息后的错误是关于什么的：

为了避免invalid_request_error ， best_of被设置为等于 `n

OpenAi 网站上的最佳实践指南提供了描述“best_of”含义的来源。 此信息目前可在以下网站获得：

https://beta.openai.com/docs/guides/production-best-practices/improving-latencies

简而言之， “best_of”是用于定义我们在使用 API 时希望从 OpenAI 网站获得什么的参数之一。使用 OpenAI API 涉及“令牌” ——类似于用户使用和速率限制的计量在 OpenAI 网站上。 此外，基于上下文长度，OpenAI 的大多数模型也有限制——大多数模型的最大上下文大小为 2048。

OpenAI 网站上的最佳实践指南建议如下：

生成更少的完成：尽可能降低 n 和 best_of 的值，其中 n 指的是为每个提示生成多少个完成，best_of 用于表示每个标记具有最高对数概率的结果。

如果 n 和 best_of 都等于 1（这是默认值），则生成的令牌数量最多等于 max_tokens。

如果 n（返回的完成数）或 best_of（为考虑而生成的完成数）设置为 > 1，则每个请求将创建多个输出。 在这里，您可以将生成的令牌数视为 [ max_tokens * max (n, best_of) ]

在 Jupyter Notebook 的 OpenAI 网站上用于请求的 function 有一个 R 包装器，它发送带有参数范围的请求 - 包括名为 best_of 的参数。 function中的best_of参数已经默认等于1，只能手动更改。 从 function 复制并粘贴此参数如下：

best_of = 1 

因此，只能推测OpenAI网站对每一个API Request自动生成了每个“Prompt”的“best_of”警告作为友情提醒。 如果需要，可以通过编程忽略和删除此警告消息