Amazon Bedrock 的知识库

概述

这将帮助您开始使用 AmazonKnowledgeBaseRetriever。有关 AmazonKnowledgeBaseRetriever 的所有功能和配置的详细文档，请访问 API 参考。

Amazon Bedrock 的知识库是 Amazon Web Services (AWS) 提供的端到端 RAG 工作流程的完全托管支持。它提供了一个完整的摄取工作流程，用于将您的文档转换为嵌入（向量）并将嵌入存储在专门的向量数据库中。Amazon Bedrock 的知识库支持用于向量存储的流行数据库，包括 Amazon OpenSearch Serverless 的向量引擎、Pinecone、Redis Enterprise Cloud、Amazon Aurora（即将推出）和 MongoDB（即将推出）。

集成详细信息

检索器	自托管	云服务	包	Py 支持
AmazonKnowledgeBaseRetriever	🟠（见下文详细信息）	✅	@langchain/aws	✅

AWS 知识库检索器可以在您自己的 AWS 基础设施上运行，因此可以“自托管”。但是，它无法在其他云提供商或本地运行。

设置

要使用 AmazonKnowledgeBaseRetriever，您需要拥有一个 AWS 帐户，您可以在其中管理索引和文档。设置帐户后，请设置以下环境变量

process.env.AWS_KNOWLEDGE_BASE_ID=your-knowledge-base-id
process.env.AWS_ACCESS_KEY_ID=your-access-key-id
process.env.AWS_SECRET_ACCESS_KEY=your-secret-access-key

如果您想从各个查询中获得自动跟踪，也可以通过取消注释以下内容来设置您的 LangSmith API 密钥

// process.env.LANGSMITH_API_KEY = "<YOUR API KEY HERE>";
// process.env.LANGSMITH_TRACING = "true";

安装

此检索器位于 @langchain/aws 包中

提示

有关安装集成包的一般说明，请参阅 此部分。

npm

npm i @langchain/aws @langchain/core

yarn

yarn add @langchain/aws @langchain/core

pnpm

pnpm add @langchain/aws @langchain/core

实例化

现在我们可以实例化检索器

import { AmazonKnowledgeBaseRetriever } from "@langchain/aws";

const retriever = new AmazonKnowledgeBaseRetriever({
  topK: 10,
  knowledgeBaseId: process.env.AWS_KNOWLEDGE_BASE_ID,
  region: "us-east-2",
  clientOptions: {
    credentials: {
      accessKeyId: process.env.AWS_ACCESS_KEY_ID,
      secretAccessKey: process.env.AWS_SECRET_ACCESS_KEY,
    },
  },
});

用法

const query = "...";

await retriever.invoke(query);

在链中使用

与其他检索器一样，AmazonKnowledgeBaseRetriever 可以通过 链 纳入 LLM 应用程序。

我们将需要一个 LLM 或聊天模型

选择您的聊天模型

OpenAI

安装依赖项

提示

见 此部分有关安装集成包的一般说明.

npm

npm i @langchain/openai 

yarn

yarn add @langchain/openai 

pnpm

pnpm add @langchain/openai 

添加环境变量

OPENAI_API_KEY=your-api-key

实例化模型

import { ChatOpenAI } from "@langchain/openai";

const llm = new ChatOpenAI({
  model: "gpt-4o-mini",
  temperature: 0
});

Anthropic

安装依赖项

提示

见 此部分有关安装集成包的一般说明.

npm

npm i @langchain/anthropic 

yarn

yarn add @langchain/anthropic 

pnpm

pnpm add @langchain/anthropic 

添加环境变量

ANTHROPIC_API_KEY=your-api-key

实例化模型

import { ChatAnthropic } from "@langchain/anthropic";

const llm = new ChatAnthropic({
  model: "claude-3-5-sonnet-20240620",
  temperature: 0
});

FireworksAI

安装依赖项

提示

见 此部分有关安装集成包的一般说明.

npm

npm i @langchain/community 

yarn

yarn add @langchain/community 

pnpm

pnpm add @langchain/community 

添加环境变量

FIREWORKS_API_KEY=your-api-key

实例化模型

import { ChatFireworks } from "@langchain/community/chat_models/fireworks";

const llm = new ChatFireworks({
  model: "accounts/fireworks/models/llama-v3p1-70b-instruct",
  temperature: 0
});

MistralAI

安装依赖项

提示

见 此部分有关安装集成包的一般说明.

npm

npm i @langchain/mistralai 

yarn

yarn add @langchain/mistralai 

pnpm

pnpm add @langchain/mistralai 

添加环境变量

MISTRAL_API_KEY=your-api-key

实例化模型

import { ChatMistralAI } from "@langchain/mistralai";

const llm = new ChatMistralAI({
  model: "mistral-large-latest",
  temperature: 0
});

Groq

安装依赖项

提示

见 此部分有关安装集成包的一般说明.

npm

npm i @langchain/groq 

yarn

yarn add @langchain/groq 

pnpm

pnpm add @langchain/groq 

添加环境变量

GROQ_API_KEY=your-api-key

实例化模型

import { ChatGroq } from "@langchain/groq";

const llm = new ChatGroq({
  model: "mixtral-8x7b-32768",
  temperature: 0
});

VertexAI

安装依赖项

提示

见 此部分有关安装集成包的一般说明.

npm

npm i @langchain/google-vertexai 

yarn

yarn add @langchain/google-vertexai 

pnpm

pnpm add @langchain/google-vertexai 

添加环境变量

GOOGLE_APPLICATION_CREDENTIALS=credentials.json

实例化模型

import { ChatVertexAI } from "@langchain/google-vertexai";

const llm = new ChatVertexAI({
  model: "gemini-1.5-flash",
  temperature: 0
});

import { ChatPromptTemplate } from "@langchain/core/prompts";
import {
  RunnablePassthrough,
  RunnableSequence,
} from "@langchain/core/runnables";
import { StringOutputParser } from "@langchain/core/output_parsers";

import type { Document } from "@langchain/core/documents";

const prompt = ChatPromptTemplate.fromTemplate(`
Answer the question based only on the context provided.

Context: {context}

Question: {question}`);

const formatDocs = (docs: Document[]) => {
  return docs.map((doc) => doc.pageContent).join("\n\n");
};

// See https://js.langchain.ac.cn/docs/tutorials/rag
const ragChain = RunnableSequence.from([
  {
    context: retriever.pipe(formatDocs),
    question: new RunnablePassthrough(),
  },
  prompt,
  llm,
  new StringOutputParser(),
]);

提示

有关上述 RunnableSequence 的更多信息和示例，请参阅 我们的 RAG 教程。

await ragChain.invoke("...");

API 参考

有关 AmazonKnowledgeBaseRetriever 的所有功能和配置的详细文档，请访问 API 参考。

相关

• 检索器 概念指南
• 检索器 操作指南