cosai · Документация
Модели и контуры

Провайдеры LLM

Мир: Anthropic, OpenAI, DeepSeek, Kimi, Mistral, Zhipu. РФ: YandexGPT, GigaChat.

Каталог моделей платформы делится на два контура данных — какие модели доступны, зависит от контура организации (подробнее — Контуры данных rf/global).

Контур global

ПровайдерМоделиУровень
AnthropicClaude Sonnet, Claude Haikustandard / draft
OpenAIGPT-4o, GPT-4o ministandard / draft
DeepSeekDeepSeek Chat, DeepSeek Reasonerstandard / reasoning
Kimi (Moonshot AI)Kimi K2standard
MistralMistral Largestandard
Zhipu (Z.ai)GLM-4 Plusstandard

Контур rf

ПровайдерМоделиУровень
YandexGPTYandexGPT Pro, YandexGPT Litestandard / draft
GigaChat (Сбер)GigaChat Pro, GigaChat Litestandard / draft

Уровни моделей

  • draft — быстрые и недорогие модели для черновых или массовых задач.
  • standard — сбалансированные модели, рекомендованы для большинства агентов по умолчанию.
  • reasoning — модели с усиленным рассуждением для сложных задач анализа.

Что выбрать

Список в консоли всегда подсказывает рекомендуемую модель для вашего контура — как правило, это модель уровня standard. Дорогую reasoning-модель стоит выбирать для агентов, которым нужен сложный анализ (например, подбор аналога по множеству параметров), а более дешёвую или российскую — для массового диалога с клиентами, где важна скорость ответа.

Отказоустойчивость

Если у выбранной модели агента есть указанная запасная (fallback) модель, при сбое основного провайдера запрос автоматически повторяется на запасной — клиент получает ответ, даже если основной провайдер временно недоступен. Запасная модель задаётся при создании агента (в мастере она подбирается автоматически из того же контура) и видна в конфигурации модели агента.

Свои ключи провайдеров (BYOK)

В разделе консоли «Провайдеры» организация может сохранить собственный API-ключ любого провайдера из каталога. Тогда запросы её агентов идут по этому ключу (расход оплачивается напрямую провайдеру), а не по ключу платформы. Ключ шифруется до записи, повторно не показывается — только подсказка последних четырёх символов; удаление ключа возвращает организацию на ключ платформы. Учёт запросов на платформе при этом сохраняется полностью.

On this page