聊天模型

聊天模型 是语言模型，它使用 消息 序列作为输入，并返回消息作为输出（与使用纯文本相反）。这些通常是较新的模型。

信息

如果您想编写自己的聊天模型，请参阅此操作指南。如果您想贡献集成，请参阅贡献集成。

选择你的聊天模型

Groq

安装依赖

提示

请参阅 此部分，获取关于安装集成包的通用说明.

npm

npm i @langchain/groq 

yarn

yarn add @langchain/groq 

pnpm

pnpm add @langchain/groq 

添加环境变量

GROQ_API_KEY=your-api-key

实例化模型

import { ChatGroq } from "@langchain/groq";

const model = new ChatGroq({
  model: "llama-3.3-70b-versatile",
  temperature: 0
});

OpenAI

安装依赖

提示

请参阅 此部分，获取关于安装集成包的通用说明.

npm

npm i @langchain/openai 

yarn

yarn add @langchain/openai 

pnpm

pnpm add @langchain/openai 

添加环境变量

OPENAI_API_KEY=your-api-key

实例化模型

import { ChatOpenAI } from "@langchain/openai";

const model = new ChatOpenAI({ model: "gpt-4o-mini" });

Anthropic

安装依赖

提示

请参阅 此部分，获取关于安装集成包的通用说明.

npm

npm i @langchain/anthropic 

yarn

yarn add @langchain/anthropic 

pnpm

pnpm add @langchain/anthropic 

添加环境变量

ANTHROPIC_API_KEY=your-api-key

实例化模型

import { ChatAnthropic } from "@langchain/anthropic";

const model = new ChatAnthropic({
  model: "claude-3-5-sonnet-20240620",
  temperature: 0
});

FireworksAI

安装依赖

提示

请参阅 此部分，获取关于安装集成包的通用说明.

npm

npm i @langchain/community 

yarn

yarn add @langchain/community 

pnpm

pnpm add @langchain/community 

添加环境变量

FIREWORKS_API_KEY=your-api-key

实例化模型

import { ChatFireworks } from "@langchain/community/chat_models/fireworks";

const model = new ChatFireworks({
  model: "accounts/fireworks/models/llama-v3p1-70b-instruct",
  temperature: 0
});

MistralAI

安装依赖

提示

请参阅 此部分，获取关于安装集成包的通用说明.

npm

npm i @langchain/mistralai 

yarn

yarn add @langchain/mistralai 

pnpm

pnpm add @langchain/mistralai 

添加环境变量

MISTRAL_API_KEY=your-api-key

实例化模型

import { ChatMistralAI } from "@langchain/mistralai";

const model = new ChatMistralAI({
  model: "mistral-large-latest",
  temperature: 0
});

VertexAI

安装依赖

提示

请参阅 此部分，获取关于安装集成包的通用说明.

npm

npm i @langchain/google-vertexai 

yarn

yarn add @langchain/google-vertexai 

pnpm

pnpm add @langchain/google-vertexai 

添加环境变量

GOOGLE_APPLICATION_CREDENTIALS=credentials.json

实例化模型

import { ChatVertexAI } from "@langchain/google-vertexai";

const model = new ChatVertexAI({
  model: "gemini-1.5-flash",
  temperature: 0
});

await model.invoke("Hello, world!")

重点提供商

模型	流式传输	JSON 模式	工具调用	withStructuredOutput()	多模态
BedrockChat	✅	❌	🟡 (仅限 Bedrock Anthropic)	🟡 (仅限 Bedrock Anthropic)	🟡 (仅限 Bedrock Anthropic)
ChatBedrockConverse	✅	❌	✅	✅	✅
ChatAnthropic	✅	❌	✅	✅	✅
ChatCloudflareWorkersAI	✅	❌	❌	❌	❌
ChatCohere	✅	❌	✅	✅	✅
ChatFireworks	✅	✅	✅	✅	✅
ChatGoogleGenerativeAI	✅	❌	✅	✅	✅
ChatVertexAI	✅	❌	✅	✅	✅
ChatGroq	✅	✅	✅	✅	✅
ChatMistralAI	✅	✅	✅	✅	✅
ChatOllama	✅	✅	✅	✅	✅
ChatOpenAI	✅	✅	✅	✅	✅
ChatTogetherAI	✅	✅	✅	✅	✅
ChatXAI	✅	✅	✅	✅	❌

所有聊天模型

名称	描述
Alibaba Tongyi	LangChain.js 支持阿里巴巴 qwen 系列模型。
Anthropic	Anthropic 是一家 AI 安全和研究公司
Arcjet Redact	Arcjet redact 集成允许您编辑
Azure OpenAI	Azure OpenAI 是 Microsoft Azure 服务，提供强大的
Baidu Qianfan	设置
Amazon Bedrock	Amazon Bedrock 是一项完全托管的服务
Amazon Bedrock Converse	[Amazon Bedrock
Cerebras	Cerebras 是一家模型提供商，提供开放服务
Cloudflare Workers AI	Workers AI 允许您
Cohere	Cohere 是一家加拿大初创公司，提供
Deep Infra	LangChain 支持由 Deep Infra 托管的聊天模型，通过 ChatD...
DeepSeek	这将帮助您开始使用 DeepSeek [聊天
Fake LLM	LangChain 提供了一个用于测试目的的虚假 LLM 聊天模型。这是一个...
Fireworks	Fireworks AI 是一个 AI 推理平台，用于运行
Friendli	Friendli 增强了 AI 应用程序的性能并优化了成本节省...
Google GenAI	Google AI 提供了许多不同的聊天
Google Vertex AI	Google Vertex 是一项服务，它
Groq	Groq 是一家提供快速 AI 推理的公司，
IBM watsonx.ai	这将帮助您开始使用 IBM watsonx.ai [聊天
Llama CPP	仅在 Node.js 上可用。
Minimax	Minimax 是一家中国初创公司，提供自然语言处理...
MistralAI	Mistral AI 是一个为以下项目提供托管的平台
Moonshot	LangChain.js 支持 Moonshot AI 系列模型。
Novita AI	为以下项目提供经济实惠、可靠且简单的推理平台
Ollama	Ollama 允许您运行开源大型
OpenAI	OpenAI 是一家人工智能
Perplexity	本指南将帮助您开始使用 Perplexity [聊天
PremAI	设置
Tencent Hunyuan	LangChain.js 支持腾讯混元系列模型。
Together	Together AI 提供了一个 API 来查询 [50+]
WebLLM	仅在 Web 环境中可用。
xAI	xAI 是一家开发人工智能的人工智能公司
YandexGPT	LangChain.js 支持调用 YandexGPT 聊天模型。
ZhipuAI	LangChain.js 支持智谱 AI 系列模型。