Files
buryan-infra/ops/hub-core/llm/mock_llm.py
T
buryan-agent 27c42f630b Панель: доступы по сервисам; тест LLM на 13 фразах
На панель добавлен блок «Доступы по сервисам» из аудита (коллекция identity).

llm_selftest.py прогоняет 13 фраз через адаптер и проверяет выбор команды.
Заглушка научена понимать фразы по ключевым словам, поэтому тест проверяет
весь путь: реестр инструментов, выбор, выполнение. Результат: 13 из 13.

Когда появится ключ, тот же тест покажет качество настоящей модели без
--mock.
2026-10-19 21:07:08 +03:00

71 lines
2.7 KiB
Python

"""Заглушка OpenAI-совместимого API: проверяем, что адаптер ходит по HTTP
и что бот умеет выполнять выбранный инструмент.
Заглушка «понимает» простые русские фразы по ключевым словам и возвращает
tool_call — как это сделала бы настоящая модель.
"""
import json
import sys
from http.server import BaseHTTPRequestHandler, HTTPServer
# ключевые слова → имя инструмента
RULES = [
(("что нового", "новинк", "последн"), "new"),
(("очеред", "качается", "загрузк"), "queue"),
(("места", "диск", "свободн"), "disk"),
(("фильм", "статистик", "сколько у нас"), "stats"),
(("бэкап", "резервн"), "backups"),
(("сломал", "статус", "не работает", "тревог"), "status"),
(("фотограф", "снимк"), "stats"),
(("книг",), "stats"),
(("дом", "датчик"), "stats"),
(("кто в каких", "доступ", "завед"), "users"),
]
def pick_tool(text, tools):
names = {t["function"]["name"] for t in tools}
low = text.lower()
for words, tool in RULES:
if any(w in low for w in words) and tool in names:
return tool
return None
class H(BaseHTTPRequestHandler):
def log_message(self, *a):
pass
def do_POST(self):
n = int(self.headers.get("Content-Length", 0))
req = json.loads(self.rfile.read(n) or b"{}")
user = ""
for m in req.get("messages", []):
if m.get("role") == "user":
user = m.get("content", "")
tools = req.get("tools") or []
tool = pick_tool(user, tools) if tools else None
if tool:
out = {"choices": [{"message": {
"role": "assistant", "content": None,
"tool_calls": [{"id": "1", "type": "function",
"function": {"name": tool, "arguments": "{}"}}],
}}]}
else:
out = {"choices": [{"message": {"role": "assistant",
"content": f"Понял: {user[:80]}. Это заглушка."}}]}
body = json.dumps(out).encode()
self.send_response(200)
self.send_header("Content-Type", "application/json")
self.send_header("Content-Length", str(len(body)))
self.end_headers()
self.wfile.write(body)
if __name__ == "__main__":
port = int(sys.argv[1]) if len(sys.argv) > 1 else 9199
print(f"заглушка на {port}", flush=True)
HTTPServer(("127.0.0.1", port), H).serve_forever()