HuggingFace 推理

此嵌入集成使用 HuggingFace 推理 API 为给定文本生成嵌入，默认情况下使用sentence-transformers/distilbert-base-nli-mean-tokens模型。您可以将不同的模型名称传递给构造函数以使用不同的模型。

安装

您首先需要安装@langchain/community包和所需的同级依赖项

提示

请参阅此部分，了解有关安装集成包的一般说明。

npm

npm install @langchain/community @huggingface/inference@2

Yarn

yarn add @langchain/community @huggingface/inference@2

pnpm

pnpm add @langchain/community @huggingface/inference@2

用法

import { HuggingFaceInferenceEmbeddings } from "@langchain/community/embeddings/hf";

const embeddings = new HuggingFaceInferenceEmbeddings({
  apiKey: "YOUR-API-KEY", // In Node.js defaults to process.env.HUGGINGFACEHUB_API_KEY
});

相关

• 嵌入模型 概念指南
• 嵌入模型 操作指南