在 GPT-3 設置中使用 best_of 時的再現性

Question

我想使用 GPT-3 做一些測試。 我不想設置 temperature = 0，而是想使用 best_of function。但是，這給了我不可重現的結果，因為它們在代碼執行的每次迭代中都不同。 有誰知道我如何才能獲得可重現/確定性的結果並仍然使用 best_of？ 有沒有辦法在 GPT-3 的 API 中使用隨機種子？

謝謝！

Answer 1

將溫度設置為 0 是我所知道的獲得接近確定性結果的最佳方式。

您還可以使用微調將響應推向某個方向。

最后一個選擇是通過策展和某種類型的鏈接“推出你自己的”。 如果您希望某個響應始終相同，請將其保存到數據庫中並進行查找。 這似乎是一個天真的答案，但像這樣的解決方案可能非常復雜，尤其是在采用鏈式思維風格實施時。