在 LangChain、LlamaIndex、Vercel AI SDK 中使用国产大模型
更新于 2026-10-16 · 三个主流开发框架的 OpenAI 兼容写法,附关闭思考提速的参数。
接入信息
- 接口地址(OpenAI 兼容)
- https://token.zzxytech.com/v1
- API Key
- 在控制台创建,以 sk- 开头(还没有账号?免费注册)
- 推荐模型
- deepseek-v4.1-flash、deepseek-v4-pro(全部模型与价格)
LangChain、LlamaIndex、Vercel AI SDK 都内置了 OpenAI 兼容的模型类,只要改 base URL、API Key 和模型名,现有代码基本不用动。
LangChain(Python)
# pip install langchain-openai
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(model="deepseek-v4.1-flash", base_url="https://token.zzxytech.com/v1", api_key="YOUR_API_KEY", max_tokens=2000)
print(llm.invoke("用一句话介绍你自己").content)
LlamaIndex
# pip install llama-index-llms-openai-like
from llama_index.llms.openai_like import OpenAILike
llm = OpenAILike(model="deepseek-v4.1-flash", api_base="https://token.zzxytech.com/v1", api_key="YOUR_API_KEY",
is_chat_model=True, is_function_calling_model=True, context_window=128000)
print(llm.complete("用一句话介绍你自己"))
Vercel AI SDK(Node.js / TypeScript)
// npm install ai @ai-sdk/openai-compatible
import { createOpenAICompatible } from "@ai-sdk/openai-compatible";
import { generateText } from "ai";
const cn = createOpenAICompatible({ name: "cn", baseURL: "https://token.zzxytech.com/v1", apiKey: process.env.ZZ_API_KEY });
const { text } = await generateText({ model: cn("deepseek-v4.1-flash"), prompt: "用一句话介绍你自己" });
console.log(text);
关闭思考,提速省钱
DeepSeek V4 系列默认先思考再回答。分类、抽取这类简单任务可以关闭思考:
llm = ChatOpenAI(model="deepseek-v4.1-flash", base_url="https://token.zzxytech.com/v1", api_key="YOUR_API_KEY",
extra_body={"thinking": {"type": "disabled"}})
更多参数见 API 文档,OpenAI SDK 的写法见 OpenAI SDK 迁移指南。