← Документация для разработчиков
ИнтеграцияLiteLLM через aictrlx
LiteLLM — Python SDK и прокси для множества провайдеров LLM — работает с aictrlx как с универсальным OpenAI-совместимым провайдером: добавьте к имени модели префикс openai/ и укажите api_base.
Настройка
Сохраните ключ в переменной окружения
Все примеры ниже читают ключ из AICTRLX_API_KEY, поэтому он не попадает в код.
Shell
export AICTRLX_API_KEY="aictrlx_live_..."Добавьте к имени модели префикс openai/ (универсальный OpenAI-совместимый провайдер) и укажите api_base.
Установка
pip install litellmPython SDK
import os
import litellm
response = litellm.completion(
model="openai/auto", # "openai/" = any OpenAI-compatible endpoint
api_base="https://aictrlx.ru/v1",
api_key=os.environ["AICTRLX_API_KEY"],
messages=[{"role": "user", "content": "Explain vector databases in two sentences."}],
)
print(response.choices[0].message.content)config.yaml для прокси LiteLLM
model_list:
- model_name: aictrlx-auto
litellm_params:
model: openai/auto
api_base: https://aictrlx.ru/v1
api_key: os.environ/AICTRLX_API_KEY
- model_name: aictrlx-coding
litellm_params:
model: openai/coding
api_base: https://aictrlx.ru/v1
api_key: os.environ/AICTRLX_API_KEYКакую модель указать
openai/auto(илиopenai/coding,openai/smart,openai/fast) — маршрутизация aictrlx.openai/<id модели>— конкретная модель со страницы моделей.
Сколько это стоит
Оплачиваются токены, которые модель читает и пишет, по ценам за 1 млн токенов со страницы моделей, в рублях: сначала из того, что включено в подписку, сверх — с баланса.
Каждый запрос с моделью, токенами и стоимостью виден в журнале запросов в кабинете.
Если что-то не работает
401сinvalid_api_keyилиmissing_api_key: инструмент не передаёт ключ или это не действующий ключaictrlx_live_.... Создайте новый на странице «API-ключи».404сmodel_not_found: имя модели — не режим маршрутизации (auto,fast,smart,coding) и не id со страницы моделей.403сmodel_not_allowed: ключ ограничен частью моделей; разрешите эту модель в настройках ключа.429: слишком много запросов в минуту (rate_limit_exceeded) или закончилась квота либо бюджет (monthly_quota_exceededи другие).