当您在使用openai微调模型时遇到“the model `xxxxx` does not exist”错误，这通常是由于选择了错误的api端点。解决此问题的关键在于识别您的微调模型所基于的原始模型类型：若基于gpt-3.5 turbo，应使用chat completions api；若基于gpt-3（如`babbage-002`或`davinci-002`），则需使用completions api。本文将详细指导您如何根据模型类型选择正确的api端点，并提供相应的代码示例。
理解“模型不存在”错误及其根源
在使用OpenAI API时，如果尝试调用一个微调模型却收到"The model \ft-modelname` does not exist"`的错误信息，即使您已通过API确认该模型确实存在，这通常不是模型本身的问题，而是您调用的API端点与微调模型类型不匹配。OpenAI的API设计区分了不同类型的模型及其对应的交互方式。
历史背景与API演进
最初，OpenAI的微调功能主要针对GPT-3系列的基础模型（如davinci-002、babbage-002）。这些微调模型只能通过Completions API (/v1/completions) 来调用，其请求体中包含一个prompt字符串。
然而，自2023年8月22日起，OpenAI正式开放了GPT-3.5 Turbo模型的微调功能。这意味着现在您可以对gpt-3.5-turbo进行微调，而这些基于gpt-3.5-turbo的微调模型，则需要通过Chat Completions API (/v1/chat/completions) 来调用，其请求体中包含一个messages数组，遵循聊天对话的结构。未来，GPT-4的微调功能也将遵循类似的逻辑。
因此，解决“模型不存在”错误的核心在于：根据您的微调模型所基于的原始模型类型，选择正确的API端点。
如何确定正确的API端点
当您完成微调任务并成功创建了一个微调模型后，OpenAI会在微调任务的详情中提供fine_tuned_model字段，其中包含模型名称。要确定应使用哪个API端点，您需要知道这个微调模型是基于哪个原始模型进行训练的。
-
如果您的微调模型是基于 gpt-3.5-turbo 训练的：
- 请使用 Chat Completions API (https://api.openai.com/v1/chat/completions)。
- 请求体应包含一个 messages 数组。
-
如果您的微调模型是基于 babbage-002 或 davinci-002（或其他GPT-3系列模型）训练的：
- 请使用 Completions API (https://api.openai.com/v1/completions)。
- 请求体应包含一个 prompt 字符串。
示例代码：根据模型类型调用微调模型
以下是根据不同微调模型类型调用API的示例。
场景一：调用基于GPT-3.5 Turbo的微调模型 (使用 Chat Completions API)
如果您的微调模型（例如 ft-your-gpt35-model）是基于 gpt-3.5-turbo 训练的，您应使用 chat/completions 端点。
const API_KEY = "YOUR_OPENAI_API_KEY";
const ORG_ID = "YOUR_OPENAI_ORG_ID"; // 可选，如果您的API密钥关联到特定组织
const headers = {
"Content-Type": "application/json",
Authorization: "Bearer " + API_KEY,
"OpenAI-Organization": ORG_ID, // 如果有组织ID，请包含
};
const fineTunedChatModel = "ft-your-gpt35-model"; // 您的基于GPT-3.5 Turbo的微调模型名称
const userMessage = "你好，请问你是谁？";
try {
const res = await axios.post(
"https://api.openai.com/v1/chat/completions",
{
model: fineTunedChatModel,
messages: [
{
role: "system",
content: "你的名字是小助手。",
},
{
role: "user",
content: userMessage,
},
],
},
{ headers }
);
console.log("Chat Completions API 响应:", res.data.choices[0].message.content);
} catch (error) {
console.error("Chat Completions API 调用失败:", error.response ? error.response.data : error.message);
}场景二：调用基于GPT-3（如babbage-002或davinci-002）的微调模型 (使用 Completions API)
如果您的微调模型（例如 ft-your-gpt3-model）是基于GPT-3系列模型训练的，您应使用 completions 端点。
const API_KEY = "YOUR_OPENAI_API_KEY";
const ORG_ID = "YOUR_OPENAI_ORG_ID"; // 可选
const headers = {
"Content-Type": "application/json",
Authorization: "Bearer " + API_KEY,
"OpenAI-Organization": ORG_ID, // 如果有组织ID，请包含
};
const fineTunedCompletionModel = "ft-your-gpt3-model"; // 您的基于GPT-3的微调模型名称
const promptText = "请说这是一个测试。";
try {
const res = await axios.post(
"https://api.openai.com/v1/completions",
{
model: fineTunedCompletionModel,
prompt: promptText,
max_tokens: 50, // 根据需要设置
},
{ headers }
);
console.log("Completions API 响应:", res.data.choices[0].text);
} catch (error) {
console.error("Completions API 调用失败:", error.response ? error.response.data : error.message);
}其他语言和工具的通用 Completions API 调用示例
以下是针对Completions API（用于GPT-3系列微调模型）的通用调用方式。
Python
import os
import openai
openai.api_key = os.getenv("OPENAI_API_KEY")
fine_tuned_model_name = "ft-your-gpt3-model"
your_prompt = "请说这是一个测试。"
try:
response = openai.Completion.create(
model=fine_tuned_model_name,
prompt=your_prompt
)
print(response.choices[0].text)
except openai.error.OpenAIError as e:
print(f"API 调用失败: {e}")NodeJS (使用官方 openai 库)
const { Configuration, OpenAIApi } = require("openai");
const configuration = new Configuration({
apiKey: process.env.OPENAI_API_KEY,
});
const openai = new OpenAIApi(configuration);
const fineTunedModelName = "ft-your-gpt3-model";
const yourPrompt = "请说这是一个测试。";
async function callCompletionAPI() {
try {
const response = await openai.createCompletion({
model: fineTunedModelName,
prompt: yourPrompt,
});
console.log(response.data.choices[0].text);
} catch (error) {
console.error("API 调用失败:", error.response ? error.response.data : error.message);
}
}
callCompletionAPI();cURL
curl https://api.openai.com/v1/completions \
-H "Authorization: Bearer $OPENAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"prompt": "请说这是一个测试。",
"model": "ft-your-gpt3-model",
"max_tokens": 50
}'OpenAI CLI
openai api completions.create -m-p "请说这是一个测试。"
注意事项与总结
- 确认微调模型的基础类型： 这是解决问题的关键。务必知道您的 ft-xxxxx 模型是基于 gpt-3.5-turbo 还是 babbage-002/davinci-002 等GPT-3模型训练的。
-
API 端点匹配：
- 基于 gpt-3.5-turbo 的微调模型 → https://api.openai.com/v1/chat/completions (使用 messages 参数)。
- 基于 GPT-3 (如 babbage-002, davinci-002) 的微调模型 → https://api.openai.com/v1/completions (使用 prompt 参数)。
- API 密钥和组织ID： 确保您的 OPENAI_API_KEY 和 OpenAI-Organization (如果适用) 是正确且有效的。
- 请求体结构： chat/completions 期望 messages 数组，而 completions 期望 prompt 字符串。即使模型名称正确，错误的请求体结构也会导致API报错。
通过仔细核对您的微调模型类型并选择对应的API端点和请求参数，您将能够成功调用您的微调模型，避免“模型不存在”的错误。
