ИИ
ИИ-агент
Стриминг ответа, инструменты и история диалога
Чат с моделью внутри вашего продукта: ответ печатается по мере генерации, агент умеет вызывать ваши функции, история диалога сохраняется. Провайдер меняется одной строкой.
Что внутри
- Ответ стримится, а не появляется через десять секунд
- Вызов ваших функций моделью с типизированными аргументами
- История диалогов с обрезкой контекста по бюджету токенов
- Смена провайдера без переписывания логики
- Учёт расхода токенов по пользователю
Что добавит в проект
Поверх общей базы — она уже даёт авторизацию, базу и интерфейс.
Таблицы в базе3
Пакеты npm3
Маршруты2
Переменные окружения3
- AI_PROVIDER
- Какой провайдер используется: anthropic, openai, ollama
- AI_API_KEY
- Ключ выбранного провайдера
- AI_MODELне обязательна
- Идентификатор модели по умолчанию
Разбор архитектуры
Инструменты описаны схемой и валидируются перед вызовом: аргументы от модели — такой же недоверенный вход, как форма от пользователя. Контекст режется по бюджету токенов, а не по числу сообщений, иначе длинный диалог упирается в лимит в непредсказуемый момент. Расход пишется по каждому запросу — без этого счёт в конце месяца становится сюрпризом.
Общая база
Пустое, но рабочее приложение: авторизация, база, UI-кит и деплой уже собраны и связаны между собой. Модули не переписывают его файлы — они добавляют свои и регистрируются в готовых точках расширения, поэтому их можно ставить в любом сочетании.