如何将参数从一个步骤传递到下一个步骤
前提条件
本指南假定您熟悉以下概念
在将多个步骤的链组合在一起时,有时您希望将前几个步骤中的数据保持不变,以便将其用作后续步骤的输入。 RunnablePassthrough
类允许您执行此操作,通常与 RunnableParallel 结合使用,以将数据传递到构建的链中后续步骤的输入。
让我们看一个示例
import {
RunnableParallel,
RunnablePassthrough,
} from "@langchain/core/runnables";
const runnable = RunnableParallel.from({
passed: new RunnablePassthrough<{ num: number }>(),
modified: (input: { num: number }) => input.num + 1,
});
await runnable.invoke({ num: 1 });
{ passed: { num: 1 }, modified: 2 }
如上所示,passed
键使用 RunnablePassthrough()
调用,因此它只是传递了 {'num': 1}
。
我们还在映射中使用 modified
设置了第二个键。这使用一个 lambda 来设置一个值,将 1 加到 num,这导致 modified
键的值为 2
。
检索示例
在下面的示例中,我们看到了一个更现实的用例,其中我们在链中使用 RunnablePassthrough
以及 RunnableParallel
来正确格式化提示的输入
提示
有关安装集成包的通用说明,请参见 此部分。
- npm
- yarn
- pnpm
npm i @langchain/openai @langchain/core
yarn add @langchain/openai @langchain/core
pnpm add @langchain/openai @langchain/core
import { StringOutputParser } from "@langchain/core/output_parsers";
import { ChatPromptTemplate } from "@langchain/core/prompts";
import {
RunnablePassthrough,
RunnableSequence,
} from "@langchain/core/runnables";
import { ChatOpenAI, OpenAIEmbeddings } from "@langchain/openai";
import { MemoryVectorStore } from "langchain/vectorstores/memory";
const vectorstore = await MemoryVectorStore.fromDocuments(
[{ pageContent: "harrison worked at kensho", metadata: {} }],
new OpenAIEmbeddings()
);
const retriever = vectorstore.asRetriever();
const template = `Answer the question based only on the following context:
{context}
Question: {question}
`;
const prompt = ChatPromptTemplate.fromTemplate(template);
const model = new ChatOpenAI({ model: "gpt-4o" });
const retrievalChain = RunnableSequence.from([
{
context: retriever.pipe((docs) => docs[0].pageContent),
question: new RunnablePassthrough(),
},
prompt,
model,
new StringOutputParser(),
]);
await retrievalChain.invoke("where did harrison work?");
"Harrison worked at Kensho."
这里,提示的输入预计将是一个具有 "context"
和 "question"
键的映射。用户输入只是问题。因此,我们需要使用我们的检索器获取上下文,并将用户输入在 "question"
键下传递。RunnablePassthrough
允许我们将用户的提问传递给提示和模型。
后续步骤
现在您已经学习了如何将数据传递到链中,以帮助格式化流经链的数据。
要了解更多信息,请参阅本节中关于可运行对象的其余操作指南。