ChatNovita

提供经济实惠、可靠且简单的推理平台，用于运行顶级 LLM 模型。

您可以在这里找到我们支持的所有模型：Novita AI 精选模型 或请求 模型 API 以获取所有可用模型。

立即试用 Novita AI DeepSeek R1 API 演示！

概述

模型功能

工具调用	结构化输出	JSON 模式	图像输入	音频输入	视频输入	令牌级流式传输	原生异步	令牌使用量	Logprobs
❌	✅	✅	❌	❌	❌	❌	❌	✅	❌

设置

要访问 Novita AI 模型，您需要创建一个 Novita 帐户并获取 API 密钥。

凭据

前往 此页面 注册 Novita AI 并生成 API 密钥。完成此操作后，设置 NOVITA_API_KEY 环境变量

export NOVITA_API_KEY="your-api-key"

安装

LangChain Novita 集成位于 @langchain-community 包中

提示

请参阅 此部分，了解有关安装集成包的通用说明。

npm

npm i @langchain/community @langchain/core

yarn

yarn add @langchain/community @langchain/core

pnpm

pnpm add @langchain/community @langchain/core

实例化

现在我们可以实例化我们的模型对象并生成聊天完成。立即试用 Novita AI DeepSeek R1 API 演示！

import { ChatNovitaAI } from "@langchain/community/chat_models/novita";

const llm = new ChatNovitaAI({
  model: "deepseek/deepseek-r1",
  temperature: 0,
  // other params...
})

调用

const aiMsg = await llm.invoke([
  {
    role: "system",
    content: "You are a helpful assistant that translates English to French. Translate the user sentence.",
  },
  {
    role: "human",
    content: "I love programming."
  },
]);

console.log(aiMsg.content)

链接

我们可以像这样使用提示模板链接我们的模型

import { ChatPromptTemplate } from "@langchain/core/prompts"

const prompt = ChatPromptTemplate.fromMessages(
  [
    [
      "system",
      "You are a helpful assistant that translates {input_language} to {output_language}.",
    ],
    ["human", "{input}"],
  ]
)

const chain = prompt.pipe(llm);
await chain.invoke(
  {
    input_language: "English",
    output_language: "German",
    input: "I love programming.",
  }
)

API 参考

有关 Novita AI LLM API 的详细文档，请访问 Novita AI LLM API 参考

相关内容

• 聊天模型概念指南
• 聊天模型操作指南