HuggingFace 推理

此嵌入集成使用 HuggingFace 推理 API 为给定文本生成嵌入，默认使用 sentence-transformers/distilbert-base-nli-mean-tokens 模型。您可以将不同的模型名称传递给构造函数以使用不同的模型。

设置

首先，您需要安装 @langchain/community 包和所需的同级依赖项。

提示

请参阅 此部分以获取有关安装集成包的一般说明。

npm

npm install @langchain/community @langchain/core @huggingface/inference@2

Yarn

yarn add @langchain/community @langchain/core @huggingface/inference@2

pnpm

pnpm add @langchain/community @langchain/core @huggingface/inference@2

用法

import { HuggingFaceInferenceEmbeddings } from "@langchain/community/embeddings/hf";

const embeddings = new HuggingFaceInferenceEmbeddings({
  apiKey: "YOUR-API-KEY", // In Node.js defaults to process.env.HUGGINGFACEHUB_API_KEY
});

相关

• 嵌入模型 概念指南
• 嵌入模型 操作指南