CloudflareWorkersAI

这将帮助您开始使用 Cloudflare Workers AI 文本补全模型 (LLM)，使用 LangChain。有关 CloudflareWorkersAI 功能和配置选项的详细文档，请参阅 API 参考。

概述

集成详细信息

类	包	本地	可序列化	PY 支持	包下载	包最新版本
CloudflareWorkersAI	@langchain/cloudflare	❌	✅	❌

设置

要访问 Cloudflare Workers AI 模型，您需要创建一个 Cloudflare 帐户，获取 API 密钥，并安装 @langchain/cloudflare 集成包。

凭据

前往 此页面 注册 Cloudflare 并生成 API 密钥。完成此操作后，请记下您的 CLOUDFLARE_ACCOUNT_ID 和 CLOUDFLARE_API_TOKEN。

安装

LangChain Cloudflare 集成位于 @langchain/cloudflare 包中

提示

请参阅 本节以获取有关安装集成包的一般说明。

npm

npm i @langchain/cloudflare @langchain/core

yarn

yarn add @langchain/cloudflare @langchain/core

pnpm

pnpm add @langchain/cloudflare @langchain/core

实例化

现在我们可以实例化模型对象并生成聊天补全

import { CloudflareWorkersAI } from "@langchain/cloudflare";

const llm = new CloudflareWorkersAI({
  model: "@cf/meta/llama-3.1-8b-instruct", // Default value
  cloudflareAccountId: CLOUDFLARE_ACCOUNT_ID,
  cloudflareApiToken: CLOUDFLARE_API_TOKEN,
  // Pass a custom base URL to use Cloudflare AI Gateway
  // baseUrl: `https://gateway.ai.cloudflare.com/v1/{YOUR_ACCOUNT_ID}/{GATEWAY_NAME}/workers-ai/`,
});

调用

const inputText = "Cloudflare is an AI company that ";

const completion = await llm.invoke(inputText);
completion;

"Cloudflare is not an AI company, but rather a content delivery network (CDN) and security company. T"... 876 more characters

链接

我们可以 将 我们的补全模型与提示模板链接，如下所示

import { PromptTemplate } from "@langchain/core/prompts";

const prompt = PromptTemplate.fromTemplate(
  "How to say {input} in {output_language}:\n"
);

const chain = prompt.pipe(llm);
await chain.invoke({
  output_language: "German",
  input: "I love programming.",
});

"That's a simple but sweet statement! \n" +
  "\n" +
  'To say "I love programming" in German, you can say: "ICH LIEB'... 366 more characters

API 参考

有关所有 CloudflareWorkersAI 功能和配置的详细文档，请前往 API 参考： https://api.js.langchain.com/classes/langchain_cloudflare.CloudflareWorkersAI.html

相关

• LLM 概念指南
• LLM 操作指南