跳到主要内容

Amazon Bedrock 的知识库

概述

这将帮助您开始使用AmazonKnowledgeBaseRetriever。有关所有 AmazonKnowledgeBaseRetriever 功能和配置的详细文档,请前往API 参考.

Amazon Bedrock 的知识库是 Amazon Web Services (AWS) 提供的端到端 RAG 工作流的完全托管支持。它提供了将您的文档转换为嵌入(向量)并将其存储在专门的向量数据库中的完整摄取工作流。Amazon Bedrock 的知识库支持用于向量存储的流行数据库,包括 Amazon OpenSearch Serverless 的向量引擎、Pinecone、Redis Enterprise Cloud、Amazon Aurora(即将推出)和 MongoDB(即将推出)。

集成详情

检索器自托管云服务Py 支持
AmazonKnowledgeBaseRetriever🟠(参见以下详细信息)@langchain/aws

AWS 知识库检索器可以“自托管”,因为您可以在自己的 AWS 基础设施上运行它。但是,它不可能在其他云提供商或本地运行。

设置

为了使用 AmazonKnowledgeBaseRetriever,您需要拥有一个 AWS 帐户,您可以在其中管理您的索引和文档。设置好帐户后,请设置以下环境变量

process.env.AWS_KNOWLEDGE_BASE_ID=your-knowledge-base-id
process.env.AWS_ACCESS_KEY_ID=your-access-key-id
process.env.AWS_SECRET_ACCESS_KEY=your-secret-access-key

如果您想从单个查询获取自动跟踪,您还可以通过取消注释以下内容来设置您的LangSmith API 密钥

// process.env.LANGSMITH_API_KEY = "<YOUR API KEY HERE>";
// process.env.LANGSMITH_TRACING = "true";

安装

此检索器位于 @langchain/aws 包中

yarn add @langchain/aws

实例化

现在我们可以实例化我们的检索器

import { AmazonKnowledgeBaseRetriever } from "@langchain/aws";

const retriever = new AmazonKnowledgeBaseRetriever({
topK: 10,
knowledgeBaseId: process.env.AWS_KNOWLEDGE_BASE_ID,
region: "us-east-2",
clientOptions: {
credentials: {
accessKeyId: process.env.AWS_ACCESS_KEY_ID,
secretAccessKey: process.env.AWS_SECRET_ACCESS_KEY,
},
},
});

使用

const query = "...";

await retriever.invoke(query);

在链中使用

与其他检索器一样,AmazonKnowledgeBaseRetriever 可以通过整合到 LLM 应用程序中。

我们将需要一个 LLM 或聊天模型

选择您的聊天模型

安装依赖项

yarn add @langchain/openai 

添加环境变量

OPENAI_API_KEY=your-api-key

实例化模型

import { ChatOpenAI } from "@langchain/openai";

const llm = new ChatOpenAI({
model: "gpt-4o-mini",
temperature: 0
});
import { ChatPromptTemplate } from "@langchain/core/prompts";
import {
RunnablePassthrough,
RunnableSequence,
} from "@langchain/core/runnables";
import { StringOutputParser } from "@langchain/core/output_parsers";

import type { Document } from "@langchain/core/documents";

const prompt = ChatPromptTemplate.fromTemplate(`
Answer the question based only on the context provided.

Context: {context}

Question: {question}`);

const formatDocs = (docs: Document[]) => {
return docs.map((doc) => doc.pageContent).join("\n\n");
};

// See https://js.langchain.ac.cn/v0.2/docs/tutorials/rag
const ragChain = RunnableSequence.from([
{
context: retriever.pipe(formatDocs),
question: new RunnablePassthrough(),
},
prompt,
llm,
new StringOutputParser(),
]);
提示

参见我们的 RAG 教程,以获取有关上述 RunnableSequence 的更多信息和示例。

await ragChain.invoke("...");

API 参考

有关所有 AmazonKnowledgeBaseRetriever 功能和配置的详细文档,请前往API 参考.


此页面对您有帮助吗?


您也可以在 GitHub 上留下详细的反馈 GitHub.