首页 / 接入指南 / 开发框架

在 LangChain、LlamaIndex、Vercel AI SDK 中使用国产大模型

更新于 2026-10-16 · 三个主流开发框架的 OpenAI 兼容写法,附关闭思考提速的参数。

接入信息

接口地址(OpenAI 兼容)
https://token.zzxytech.com/v1
API Key
在控制台创建,以 sk- 开头(还没有账号?免费注册)
推荐模型
deepseek-v4.1-flash、deepseek-v4-pro(全部模型与价格)

LangChain、LlamaIndex、Vercel AI SDK 都内置了 OpenAI 兼容的模型类,只要改 base URL、API Key 和模型名,现有代码基本不用动。

LangChain(Python)

# pip install langchain-openai
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(model="deepseek-v4.1-flash", base_url="https://token.zzxytech.com/v1", api_key="YOUR_API_KEY", max_tokens=2000)
print(llm.invoke("用一句话介绍你自己").content)

LlamaIndex

# pip install llama-index-llms-openai-like
from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(model="deepseek-v4.1-flash", api_base="https://token.zzxytech.com/v1", api_key="YOUR_API_KEY",
                 is_chat_model=True, is_function_calling_model=True, context_window=128000)
print(llm.complete("用一句话介绍你自己"))

Vercel AI SDK(Node.js / TypeScript)

// npm install ai @ai-sdk/openai-compatible
import { createOpenAICompatible } from "@ai-sdk/openai-compatible";
import { generateText } from "ai";

const cn = createOpenAICompatible({ name: "cn", baseURL: "https://token.zzxytech.com/v1", apiKey: process.env.ZZ_API_KEY });
const { text } = await generateText({ model: cn("deepseek-v4.1-flash"), prompt: "用一句话介绍你自己" });
console.log(text);

关闭思考,提速省钱

DeepSeek V4 系列默认先思考再回答。分类、抽取这类简单任务可以关闭思考:

llm = ChatOpenAI(model="deepseek-v4.1-flash", base_url="https://token.zzxytech.com/v1", api_key="YOUR_API_KEY",
                 extra_body={"thinking": {"type": "disabled"}})

更多参数见 API 文档,OpenAI SDK 的写法见 OpenAI SDK 迁移指南。

相关指南