← Документация для разработчиков

Интеграция

LiteLLM через aictrlx

LiteLLM — Python SDK и прокси для множества провайдеров LLM — работает с aictrlx как с универсальным OpenAI-совместимым провайдером: добавьте к имени модели префикс openai/ и укажите api_base.

Настройка

Сохраните ключ в переменной окружения

Все примеры ниже читают ключ из AICTRLX_API_KEY, поэтому он не попадает в код.

Shell
export AICTRLX_API_KEY="aictrlx_live_..."

Добавьте к имени модели префикс openai/ (универсальный OpenAI-совместимый провайдер) и укажите api_base.

Установка
pip install litellm
Python SDK
import os

import litellm

response = litellm.completion(
    model="openai/auto",  # "openai/" = any OpenAI-compatible endpoint
    api_base="https://aictrlx.ru/v1",
    api_key=os.environ["AICTRLX_API_KEY"],
    messages=[{"role": "user", "content": "Explain vector databases in two sentences."}],
)
print(response.choices[0].message.content)
config.yaml для прокси LiteLLM
model_list:
  - model_name: aictrlx-auto
    litellm_params:
      model: openai/auto
      api_base: https://aictrlx.ru/v1
      api_key: os.environ/AICTRLX_API_KEY
  - model_name: aictrlx-coding
    litellm_params:
      model: openai/coding
      api_base: https://aictrlx.ru/v1
      api_key: os.environ/AICTRLX_API_KEY

Какую модель указать

  • openai/auto (или openai/coding, openai/smart, openai/fast) — маршрутизация aictrlx.
  • openai/<id модели> — конкретная модель со страницы моделей.

Модели и цены →

Сколько это стоит

Оплачиваются токены, которые модель читает и пишет, по ценам за 1 млн токенов со страницы моделей, в рублях: сначала из того, что включено в подписку, сверх — с баланса.

Каждый запрос с моделью, токенами и стоимостью виден в журнале запросов в кабинете.

Если что-то не работает

  • 401 с invalid_api_key или missing_api_key: инструмент не передаёт ключ или это не действующий ключ aictrlx_live_.... Создайте новый на странице «API-ключи».
  • 404 с model_not_found: имя модели — не режим маршрутизации (auto, fast, smart, coding) и не id со страницы моделей.
  • 403 с model_not_allowed: ключ ограничен частью моделей; разрешите эту модель в настройках ключа.
  • 429: слишком много запросов в минуту (rate_limit_exceeded) или закончилась квота либо бюджет (monthly_quota_exceeded и другие).

Все ошибки и лимиты →

Другие интеграции