跳至主要内容

Google Vertex AI

注意

您当前正在查看的页面记录了将 Google Vertex 模型用作 文本完成模型。Google Vertex 上可用的许多流行模型是 聊天完成模型。

您可能在寻找 此页面。

Google Vertex 是一项服务，它公开 Google Cloud 中可用的所有基础模型，例如 gemini-1.5-pro、gemini-1.5-flash 等。

这将帮助您开始使用 LangChain 的 VertexAI 完成模型 (LLM)。有关 VertexAI 功能和配置选项的详细文档，请参阅 API 参考。

概述​

集成详细信息​

类包本地可序列化PY 支持包下载包最新
VertexAI@langchain/google-vertexai❌✅✅NPM - DownloadsNPM - Version

设置​

LangChain.js 根据您是在 Node.js 环境中运行还是在 Web 环境中运行，支持两种不同的身份验证方法。

要访问 VertexAI 模型，您需要创建一个 Google Cloud Platform (GCP) 帐户、获取 API 密钥并安装 @langchain/google-vertexai 集成包。

凭据​

Node.js​

您应该确保 Vertex AI API 已针对相关项目启用，并且您已使用以下方法之一对 Google Cloud 进行了身份验证

  • 您已登录到有权访问该项目的帐户（使用 gcloud auth application-default login）。
  • 您在使用服务帐户的机器上运行，该服务帐户有权访问该项目。
  • 您已下载有权访问该项目的 Service Account 凭据，并将 GOOGLE_APPLICATION_CREDENTIALS 环境变量设置为该文件的路径。或
  • 您将 GOOGLE_API_KEY 环境变量设置为项目的 API 密钥。

网络​

要在 Web 环境（如 Edge 函数）中调用 Vertex AI 模型，您需要安装 @langchain/google-vertexai-web 包。

然后，您需要将 Service Account 凭据直接添加为 GOOGLE_VERTEX_AI_WEB_CREDENTIALS 环境变量

GOOGLE_VERTEX_AI_WEB_CREDENTIALS={"type":"service_account","project_id":"YOUR_PROJECT-12345",...}

您也可以像这样在代码中直接传递您的凭据

import { VertexAI } from "@langchain/google-vertexai";
// Or uncomment this line if you're using the web version:
// import { VertexAI } from "@langchain/google-vertexai-web";

const model = new VertexAI({
  authOptions: {
    credentials: {"type":"service_account","project_id":"YOUR_PROJECT-12345",...},
  },
});

如果您想获得模型调用的自动跟踪，也可以通过取消以下注释来设置您的 LangSmith API 密钥

# export LANGCHAIN_TRACING_V2="true"
# export LANGCHAIN_API_KEY="your-api-key"

安装​

LangChain VertexAI 集成位于 @langchain/google-vertexai 包中

提示

查看 此部分以获取有关安装集成包的通用说明。

yarn add @langchain/google-vertexai

或用于 Web 环境

yarn add @langchain/google-vertexai-web

实例化​

现在我们可以实例化模型对象并生成聊天完成

import { VertexAI } from "@langchain/google-vertexai-web";

const llm = new VertexAI({
  model: "gemini-pro",
  temperature: 0,
  maxRetries: 2,
  // other params...
});

调用​

const inputText = "VertexAI is an AI company that ";

const completion = await llm.invoke(inputText);
completion;
offers a wide range of cloud computing services and artificial intelligence solutions to businesses and developers worldwide.

链接​

我们可以使用提示模板 链接 完成模型，如下所示

import { PromptTemplate } from "@langchain/core/prompts";

const prompt = PromptTemplate.fromTemplate(
  "How to say {input} in {output_language}:\n"
);

const chain = prompt.pipe(llm);
await chain.invoke({
  output_language: "German",
  input: "I love programming.",
});
"Ich liebe Programmieren."
Pronunciation guide:

Ich: [ɪç] (similar to "ikh" with a soft "ch" sound)
liebe: [ˈliːbə] (LEE-buh)
Programmieren: [pʁoɡʁaˈmiːʁən] (pro-gra-MEE-ren)

You could also say:
"Ich liebe es zu programmieren."
Which translates more literally to "I love to program." This version is a bit more formal or precise.
Pronunciation:

es: [ɛs] (like the letter "S")
zu: [tsuː] (tsoo)

Both versions are correct and commonly used.

API 参考​

有关所有 VertexAI 功能和配置的详细文档，请转到 API 参考：https://api.js.langchain.com/classes/langchain_google_vertexai.VertexAI.html

此页面是否有用？


您也可以留下详细的反馈 在 GitHub 上.