Как это работает
- Сообщение поступает боту
- Сначала проверяются маршруты на основе правил
- Если ни одно правило не совпало, LLM получает текст сообщения, информацию об отправителе и список всех ботов с их описаниями
- LLM возвращает решение по маршрутизации:
{target_bot_id, target_chat_id, action, reason}
Поддерживаемые API
Подходит любой OpenAI-совместимый эндпоинт:- OpenAI
- Ollama
- LM Studio
- Любой совместимый API
Настройка
Настройка через веб-интерфейс в разделе LLM Config:| Поле | Описание |
|---|---|
| API URL | URL OpenAI-совместимого эндпоинта |
| API Key | Ключ аутентификации |
| Model | Название модели (например, gpt-4o, llama3) |
| System Prompt | Пользовательский системный промпт для решений по маршрутизации |
| Enabled | Включение/выключение |
Описания ботов
Каждый бот может иметь описание, объясняющее его назначение. Эти описания отправляются LLM для принятия более точных решений по маршрутизации. Задайте описания через веб-интерфейс или API (/api/bots/description).