如何进行按用户检索

先决条件

本指南假定您熟悉以下内容

• 检索增强生成

在构建检索应用时，您通常需要考虑到多个用户。这意味着您可能不仅存储一个用户的数据，而是存储许多不同用户的数据，并且他们不应该能够看到彼此的数据。这意味着您需要能够配置您的检索链，使其仅检索特定信息。这通常涉及两个步骤。

步骤 1：确保您使用的检索器支持多用户

目前，LangChain 中没有针对此的统一标志或过滤器。相反，每个向量存储和检索器都可能有自己的标志或过滤器，并且可能被称为不同的名称（命名空间、多租户等）。对于向量存储，这通常作为关键字参数公开，该参数在 similaritySearch 期间传入。通过阅读文档或源代码，弄清楚您使用的检索器是否支持多用户，如果支持，如何使用它。

步骤 2：将该参数添加为链的可配置字段

LangChain config 对象被传递到每个 Runnable。您可以在此处将任何字段添加到 configurable 对象。稍后，在链内部，我们可以提取这些字段。

步骤 3：使用该可配置字段调用链

现在，在运行时，您可以使用可配置字段调用此链。

代码示例

让我们看一个具体的代码示例。我们将在此示例中使用 Pinecone。

设置

安装依赖项

提示

有关安装集成包的常规说明，请参阅此部分。

npm

npm i @langchain/pinecone @langchain/openai @langchain/core @pinecone-database/pinecone

yarn

yarn add @langchain/pinecone @langchain/openai @langchain/core @pinecone-database/pinecone

pnpm

pnpm add @langchain/pinecone @langchain/openai @langchain/core @pinecone-database/pinecone

设置环境变量

在此示例中，我们将使用 OpenAI 和 Pinecone

OPENAI_API_KEY=your-api-key

PINECONE_API_KEY=your-api-key
PINECONE_INDEX=your-index-name

# Optional, use LangSmith for best-in-class observability
LANGSMITH_API_KEY=your-api-key
LANGSMITH_TRACING=true

# Reduce tracing latency if you are not in a serverless environment
# LANGCHAIN_CALLBACKS_BACKGROUND=true

import { OpenAIEmbeddings } from "@langchain/openai";
import { PineconeStore } from "@langchain/pinecone";
import { Pinecone } from "@pinecone-database/pinecone";
import { Document } from "@langchain/core/documents";

const embeddings = new OpenAIEmbeddings();

const pinecone = new Pinecone();

const pineconeIndex = pinecone.Index(process.env.PINECONE_INDEX);

/**
 * Pinecone allows you to partition the records in an index into namespaces.
 * Queries and other operations are then limited to one namespace,
 * so different requests can search different subsets of your index.
 * Read more about namespaces here: https://docs.pinecone.io/guides/indexes/use-namespaces
 *
 * NOTE: If you have namespace enabled in your Pinecone index, you must provide the namespace when creating the PineconeStore.
 */
const namespace = "pinecone";

const vectorStore = await PineconeStore.fromExistingIndex(
  new OpenAIEmbeddings(),
  { pineconeIndex, namespace }
);

await vectorStore.addDocuments(
  [new Document({ pageContent: "i worked at kensho" })],
  { namespace: "harrison" }
);

await vectorStore.addDocuments(
  [new Document({ pageContent: "i worked at facebook" })],
  { namespace: "ankush" }
);

[ "77b8f174-9d89-4c6c-b2ab-607fe3913b2d" ]

pinecone kwarg 中的 namespace 可用于分隔文档

// This will only get documents for Ankush
const ankushRetriever = vectorStore.asRetriever({
  filter: {
    namespace: "ankush",
  },
});

await ankushRetriever.invoke("where did i work?");

[ Document { pageContent: "i worked at facebook", metadata: {} } ]

// This will only get documents for Harrison
const harrisonRetriever = vectorStore.asRetriever({
  filter: {
    namespace: "harrison",
  },
});

await harrisonRetriever.invoke("where did i work?");

[ Document { pageContent: "i worked at kensho", metadata: {} } ]

我们现在可以创建将用于执行问答的链。

import { StringOutputParser } from "@langchain/core/output_parsers";
import { ChatPromptTemplate } from "@langchain/core/prompts";
import {
  RunnableBinding,
  RunnableLambda,
  RunnablePassthrough,
} from "@langchain/core/runnables";
import { ChatOpenAI, OpenAIEmbeddings } from "@langchain/openai";

const template = `Answer the question based only on the following context:
{context}
Question: {question}`;

const prompt = ChatPromptTemplate.fromTemplate(template);

const model = new ChatOpenAI({
  model: "gpt-3.5-turbo-0125",
  temperature: 0,
});

我们现在可以使用可配置的检索器创建链。它是可配置的，因为我们可以定义任何将传递到链的对象。从那里，我们提取可配置对象并将其传递给向量存储。

import {
  RunnablePassthrough,
  RunnableSequence,
} from "@langchain/core/runnables";

const chain = RunnableSequence.from([
  RunnablePassthrough.assign({
    context: async (input: { question: string }, config) => {
      if (!config || !("configurable" in config)) {
        throw new Error("No config");
      }
      const { configurable } = config;
      const documents = await vectorStore
        .asRetriever(configurable)
        .invoke(input.question, config);
      return documents.map((doc) => doc.pageContent).join("\n\n");
    },
  }),
  prompt,
  model,
  new StringOutputParser(),
]);

我们现在可以使用可配置选项调用链。search_kwargs 是可配置字段的 id。该值是用于 Pinecone 的搜索 kwargs

await chain.invoke(
  { question: "where did the user work?" },
  { configurable: { filter: { namespace: "harrison" } } }
);

"The user worked at Kensho."

await chain.invoke(
  { question: "where did the user work?" },
  { configurable: { filter: { namespace: "ankush" } } }
);

"The user worked at Facebook."

有关可以支持多用户的更多向量存储实现，请参阅特定页面，例如 Milvus。

下一步

您现在已经了解了一种支持从多个用户检索数据的方法。

接下来，查看一些关于 RAG 的其他操作指南，例如返回来源。