SDK и фреймворки

Два базовых адреса

Примеры берут ключ из переменной окружения KOVAPI_API_KEY — никогда не пишите ключ прямо в коде.

OpenAI SDK

import os
from openai import OpenAI

client = OpenAI(base_url="https://kovapi.com/v1", api_key=os.environ["KOVAPI_API_KEY"])
r = client.chat.completions.create(
    model="gemini-3.1-pro",
    messages=[{"role": "user", "content": "Hello"}],
)
print(r.choices[0].message.content)

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://kovapi.com/v1", apiKey: process.env.KOVAPI_API_KEY });
const r = await client.chat.completions.create({
  model: "gemini-3.1-pro",
  messages: [{ role: "user", content: "Hello" }],
});
console.log(r.choices[0].message.content);

OpenAI SDK также считывает переменные окружения OPENAI_BASE_URL и OPENAI_API_KEY. Вызов client.responses.create(...) обращается к Responses API, который отдаёт только модели GPT.

Anthropic SDK

import os
from anthropic import Anthropic

client = Anthropic(base_url="https://kovapi.com/anthropic", api_key=os.environ["KOVAPI_API_KEY"])
m = client.messages.create(
    model="claude-sonnet-5-5",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello"}],
)
print(next(b.text for b in m.content if b.type == "text"))

import Anthropic from "@anthropic-ai/sdk";

const client = new Anthropic({ baseURL: "https://kovapi.com/anthropic", apiKey: process.env.KOVAPI_API_KEY });
const msg = await client.messages.create({
  model: "claude-sonnet-5-5",
  max_tokens: 1024,
  messages: [{ role: "user", content: "Hello" }],
});
const first = msg.content[0];
if (first.type === "text") console.log(first.text);

Укажите в base_url адрес до /anthropic, без /v1. Также работают переменные окружения ANTHROPIC_BASE_URL и ANTHROPIC_API_KEY.

LangChain

import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="gemini-3.1-pro",
    base_url="https://kovapi.com/v1",
    api_key=os.environ["KOVAPI_API_KEY"],
    use_responses_api=False,
    stream_usage=True,
)
print(llm.invoke("Hello").content)

import { ChatOpenAI } from "@langchain/openai";

const llm = new ChatOpenAI({
  model: "gemini-3.1-pro",
  apiKey: process.env.KOVAPI_API_KEY,
  configuration: { baseURL: "https://kovapi.com/v1" },
  useResponsesApi: false,
});
console.log((await llm.invoke("Hello")).content);

LangChain сам переключает некоторые модели GPT, а также запросы с определёнными параметрами, на Responses API; use_responses_api=False (в JavaScript — useResponsesApi: false) удерживает его на эндпоинте чата. При пользовательском base_url потоковый вывод не возвращает usage, если не задать stream_usage=True.

Vercel AI SDK

import { createOpenAI } from "@ai-sdk/openai";
import { generateText } from "ai";

const gw = createOpenAI({ baseURL: "https://kovapi.com/v1", apiKey: process.env.KOVAPI_API_KEY });
const { text } = await generateText({ model: gw.chat("gemini-3.1-pro"), prompt: "Hello" });
console.log(text);

Начиная с AI SDK 5, gw("model-id") использует Responses API; gw.chat("model-id") обращается к эндпоинту чата и работает с любой моделью. При использовании @ai-sdk/anthropic укажите в baseURL значение https://kovapi.com/anthropic/v1 (с /v1).

Частые ошибки