WatsonX AI

LangChain.js 支持与 IBM WatsonX AI 集成。查看 WatsonX AI 以获取可用模型列表。

设置

您需要为使用 WatsonX AI API 设置以下环境变量。

1. IBM_CLOUD_API_KEY 可通过 IBM Cloud 生成
2. WATSONX_PROJECT_ID 可在您的 项目管理选项卡 中找到

或者，这些可以在 WatsonxAI 类实例化期间分别设置为 ibmCloudApiKey 和 projectId。例如

const model = new WatsonxAI({
  ibmCloudApiKey: "My secret IBM Cloud API Key"
  projectId: "My secret WatsonX AI Project id"
});

用法

提示

参见 此部分以获取有关安装集成包的一般说明.

npm

npm install @langchain/community

Yarn

yarn add @langchain/community

pnpm

pnpm add @langchain/community

import { WatsonxAI } from "@langchain/community/llms/watsonx_ai";

// Note that modelParameters are optional
const model = new WatsonxAI({
  modelId: "meta-llama/llama-2-70b-chat",
  modelParameters: {
    max_new_tokens: 100,
    min_new_tokens: 0,
    stop_sequences: [],
    repetition_penalty: 1,
  },
});

const res = await model.invoke(
  "What would be a good company name for a company that makes colorful socks?"
);

console.log({ res });

API 参考

• WatsonxAI 来自 @langchain/community/llms/watsonx_ai

相关

• LLM 概念指南
• LLM 操作指南