Как это работает
- Сообщение поступает боту
- Сначала проверяются маршруты на основе правил
- Если ни одно правило не совпало, LLM получает текст сообщения, информацию об отправителе и список всех ботов с их описаниями
- LLM возвращает решение по маршрутизации:
{target_bot_id, target_chat_id, action, reason}
Поддерживаемые API
Подходит любой OpenAI-совместимый эндпоинт:- OpenAI
- Ollama
- LM Studio
- Любой совместимый API
Настройка
Настройка через веб-интерфейс в разделе LLM Config:Описания ботов
Каждый бот может иметь описание, объясняющее его назначение. Эти описания отправляются LLM для принятия более точных решений по маршрутизации. Задайте описания через веб-интерфейс или API (/api/bots/description).