OpenAI 什么是“模型仍在加载”错误?

当您在一段时间内第一次使用经过微调的模型时,加载它可能需要一些时间。这有时会导致前几个请求失败并显示 429 代码和一条错误消息“模型仍在加载”。

加载模型所需的时间取决于共享流量和模型的大小。例如,像 davinci 这样的较大模型可能需要几分钟才能加载,而较小的模型加载速度可能会快得多。

加载模型后,完成请求应该更快,并且您不太可能遇到超时。

我们强烈建议在您的请求代码中实施具有指数退避的重试逻辑,以解决您在加载模型时可能遇到的任何问题(有关示例,请参阅本笔记本的“使用指数退避重试”部分)

ChatGPT中国体验版点击进入https://yundongfang.com/chatgpt.php

未经允许不得转载:表盘吧 » OpenAI 什么是“模型仍在加载”错误?