Files
buryan-agent 27c42f630b Панель: доступы по сервисам; тест LLM на 13 фразах
На панель добавлен блок «Доступы по сервисам» из аудита (коллекция identity).

llm_selftest.py прогоняет 13 фраз через адаптер и проверяет выбор команды.
Заглушка научена понимать фразы по ключевым словам, поэтому тест проверяет
весь путь: реестр инструментов, выбор, выполнение. Результат: 13 из 13.

Когда появится ключ, тот же тест покажет качество настоящей модели без
--mock.
2026-10-19 21:07:08 +03:00
..

LLM-адаптер

Понимает свободные фразы и решает, какую команду бота вызвать.

Настройка

/etc/hub-core/llm.env (права 600), подключён к службе ботов через EnvironmentFile:

LLM_BASE_URL=https://api.deepseek.com/v1
LLM_API_KEY=sk-...
LLM_MODEL=deepseek-chat

Подходит любой OpenAI-совместимый API: DeepSeek, Qwen (https://dashscope.aliyuncs.com/compatible-mode/v1, модель qwen-plus), локальный сервер.

Как работает

  1. Бот не распознал фразу правилами → спрашивает модель.
  2. Модель получает список инструментов = команд бота с описаниями.
  3. Если выбрала инструмент — бот выполняет и возвращает результат.
  4. Если ответила текстом — бот отдаёт текст и пишет пару в /var/lib/hub-bots/dialog.jsonl.

Без ключа (LLM_BASE_URL пуст) адаптер молчит, боты работают по правилам.

Проверено на заглушке

Локальный mock OpenAI-сервера (mock_llm.py) подтвердил весь путь:

  • «покажи статистику по медиа» → модель выбрала инструмент stats → бот выполнил и вернул медиатеку;
  • «расскажи как дела у нашей медиатеки» → модель ответила текстом → бот отдал ответ и записал диалог в журнал;
  • health() возвращает {'enabled': True, 'ok': True}.

Когда появится ключ

Вписать три строки в /etc/hub-core/llm.env и перезапустить ботов: systemctl restart hub-bots. Больше ничего менять не нужно.