cosai · Документация
Модели и контуры

Выбор модели

Пользователь сам выбирает генеративную LLM — без переиндексации.

cosai отделяет знания агента от того, какая генеративная модель формулирует ответ. Знания живут в базе знаний (см. Как работает поиск), а модель — это просто «голос», который отвечает на основе найденного контекста. Поэтому модель можно сменить в один клик, без переиндексации и без потери качества ответов.

Почему это возможно

Модель не «обучена» на документах компании — она получает нужные фрагменты базы знаний прямо в запросе и отвечает на их основе. Смена модели меняет только то, как формулируется ответ (стиль, скорость, стоимость), но не то, что агент знает: знания одинаково доступны любой модели каталога.

Где выбирается модель

  • При создании агента — на шаге «Модель» в мастере создания; платформа подсказывает рекомендуемую модель.
  • На странице агента — в карточке «Персона и модель» можно сменить модель в любой момент.

Список доступных моделей платформа фильтрует по контуру данных организации: организация в контуре rf видит только российские модели, организация в контуре global — весь каталог. Подробнее — в разделе Контуры данных rf/global.

Важно

Смена модели у уже опубликованного агента снимает его с публикации — платформа требует прогнать проверку качества заново на новой модели перед повторной публикацией, чтобы убедиться, что ответы остались обоснованными.

Полный список провайдеров — в разделе Провайдеры LLM.

On this page