如何禁用并行工具调用
先决条件
本指南假设您熟悉以下概念
OpenAI 特定
此 API 目前仅受 OpenAI 支持。
OpenAI 模型默认情况下会并行执行工具调用。这意味着如果我们问一个问题，例如"What is the weather in Tokyo, New York, and Chicago?"，并且我们有一个获取天气的工具，它将并行调用该工具 3 次。我们可以使用parallel_tool_call 调用选项强制它只调用一次工具。
首先，让我们设置工具和模型
import { ChatOpenAI } from "@langchain/openai";
import { z } from "zod";
import { tool } from "@langchain/core/tools";
const adderTool = tool(
async ({ a, b }) => {
return a + b;
},
{
name: "add",
description: "Adds a and b",
schema: z.object({
a: z.number(),
b: z.number(),
}),
}
);
const multiplyTool = tool(
async ({ a, b }) => {
return a + b;
},
{
name: "multiply",
description: "Multiplies a and b",
schema: z.object({
a: z.number(),
b: z.number(),
}),
}
);
const tools = [adderTool, multiplyTool];
const llm = new ChatOpenAI({
model: "gpt-4o-mini",
temperature: 0,
});
现在，让我们展示一个关于如何禁用并行工具调用工作的简短示例
const llmWithTools = llm.bindTools(tools, { parallel_tool_calls: false });
const result = await llmWithTools.invoke(
"Please call the first tool two times"
);
result.tool_calls;
[
{
name: 'add',
args: { a: 5, b: 3 },
type: 'tool_call',
id: 'call_5bKOYerdQU6J5ERJJYnzYsGn'
}
]
如您所见，即使我们明确告诉模型调用两次工具，通过禁用并行工具调用，模型被限制为只调用一次。
将此与不传递parallel_tool_calls 为 false 的情况进行比较
const llmWithNoBoundParam = llm.bindTools(tools);
const result2 = await llmWithNoBoundParam.invoke(
"Please call the first tool two times"
);
result2.tool_calls;
[
{
name: 'add',
args: { a: 1, b: 2 },
type: 'tool_call',
id: 'call_Ni0tF0nNtY66BBwB5vEP6oI4'
},
{
name: 'add',
args: { a: 3, b: 4 },
type: 'tool_call',
id: 'call_XucnTCfFqP1JBs3LtbOq5w3d'
}
]
您可以看到，您获得了两次工具调用。
您也可以像这样在运行时传递参数
const result3 = await llmWithNoBoundParam.invoke(
"Please call the first tool two times",
{
parallel_tool_calls: false,
}
);
result3.tool_calls;
[
{
name: 'add',
args: { a: 1, b: 2 },
type: 'tool_call',
id: 'call_TWo6auul71NUg1p0suzBKARt'
}
]