OpenAI SDK 迁移到国产大模型

如果你的代码已经在使用 OpenAI SDK，接入 token中泽信业 只需要改两处：base URL 和 API Key，再把 model 换成要用的模型。请求体、响应体、流式输出和工具调用的字段与 OpenAI 一致。

Python

# pip install openai
from openai import OpenAI

client = OpenAI(api_key="YOUR_API_KEY", base_url="https://token.zzxytech.com/v1")
resp = client.chat.completions.create(
    model="deepseek-v4-flash",
    messages=[{"role": "user", "content": "你好"}],
    max_tokens=1000,
)
print(resp.choices[0].message.content)

Node.js

// npm install openai
import OpenAI from "openai";

const client = new OpenAI({ apiKey: "YOUR_API_KEY", baseURL: "https://token.zzxytech.com/v1" });
const resp = await client.chat.completions.create({
  model: "deepseek-v4-flash",
  messages: [{ role: "user", content: "你好" }],
  max_tokens: 1000,
});
console.log(resp.choices[0].message.content);

流式输出

stream = client.chat.completions.create(
    model="deepseek-v4-flash", max_tokens=1000, stream=True,
    stream_options={"include_usage": True},   # 最后一个数据块带上 Token 用量
    messages=[{"role": "user", "content": "写一首关于春天的短诗"}])
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="")

迁移检查清单

• 把环境变量 OPENAI_BASE_URL 和 OPENAI_API_KEY 改掉，很多框架（LangChain、LlamaIndex 等）无需改代码。
• 不同模型的能力不同，上线前用你自己的真实提示词对比效果和成本。可以先在控制台的“在线试用”里试。
• 对 429 和 502 做退避重试，示例见 API 文档。
• 给生产环境的 Key 设置每日消费上限和 IP 白名单。