8.8 KiB
Beszel — мониторинг всех гостей
Охват: 35 из 35
| Что | Как развёрнуто |
|---|---|
| pve (хост) | контейнер, 45876 |
| 27 CT с Docker | контейнер beszel-agent |
| 5 CT без Docker | бинарник + systemd |
| VM 104 (Immich) | бинарник + systemd |
| CT110 (сам хаб) | контейнер |
Проверка: гостей: 35 | в Beszel: 35 | не покрыты: нет.
Схема
- Хаб: CT110,
0.0.0.0:8092, проксиoauth2-proxy-metricsна9996, доменhttps://metrics.buryans.ru. - Агент: слушает
45876, хаб подключается к нему по SSH по ключу — токен системы не требуется. - Бинарник агента лежит в
/usr/local/bin/beszel-agent, systemd-юнитbeszel-agent.service.
Ловушки (все стоили времени)
- Docker API разный: CT110 требует
DOCKER_API_VERSION=1.41, остальные — ≥1.44. - Нет compose в CT124/126 — только
docker run. - AppArmor в LXC (CT115, CT140): нужен
--security-opt apparmor=unconfined. - CT111 — это 192.168.1.240, а не
.111. UID— readonly в bash.- KEY содержит пробел: в systemd-юните обязательны кавычки
Environment="KEY=ssh-ed25519 AAAA...", иначеFailed to load public keys: failed to parse key. - VM 104 доступна по SSH root@192.168.1.104 — агент ставится напрямую.
Dozzle — логи контейнеров
Где
| Параметр | Значение |
|---|---|
| CT | 110 (office-lxc) |
| Порт | 127.0.0.1:9998 |
| Прокси | oauth2-proxy-logs, network_mode: host, порт 9997 |
| Домен | https://logs.buryans.ru (ждёт DNS) |
| Данные | нет, читает docker.sock |
Почему не на хосте
На PVE Docker ограничен (AppArmor): контейнер не может подключиться
к /var/run/docker.sock — Could not connect to any Docker Engine.
Memos и Stirling тоже падали на хосте по этой причине.
Поэтому Dozzle живёт в CT110 и видит контейнеры этого CT.
SSO
proxy 9997 → 302 https://authentik.buryans.ru/application/o/authorize/
dozzle 9998 → 200 (локально)
Провайдер provider-logs, приложение logs, redirect
https://logs.buryans.ru/oauth2/callback.
Инцидент при развёртывании
oauth2-proxy-logs занял порт 9999, на котором работал
telegram-proxy.py. Процесс упал, systemd его поднял. Прокси переведён
на 9997.
Также выяснилось, что tmdb-proxy.service (socat на 8888) конфликтует
с SSH-туннелем на том же порту. Метаданные работают через туннель (401
от api.themoviedb.org = доступ есть), поэтому tmdb-proxy отключён как дубль.
Что осталось
- DNS:
logs.buryans.ru→ 193.233.210.184 (сейчас указывает на 5.101.152.161 — чужой адрес). - После DNS: certbot на VPS, копия сертификата домой, 443-блок на VPS.
Grafana: дашборд «Инфраструктура»
Где
| Параметр | Значение |
|---|---|
| CT | 113 (backup-lxc) |
| Порт | 192.168.1.113:3000 |
| Версия | 12.4.0 |
| Датасорс | Prometheus, uid prom-buryan |
| Дашборд | uid buryan-infra |
Панели
| Панель | Запрос |
|---|---|
| Машин онлайн | count(up{job=~"node|buryan"} == 1) |
| Алертов активно | count(ALERTS{alertstate="firing"}) |
| Минимум свободного места | min(node_filesystem_avail_bytes{mountpoint="/"}) |
| Максимальная нагрузка | max(node_load15) |
| CPU по машинам | 100 - avg(rate(node_cpu_seconds_total{mode="idle"}[5m])) * 100 |
| Память по машинам | 100 * (1 - MemAvailable/MemTotal) |
| Диск / по машинам | 100 * (1 - avail/size) |
| Сеть (МБ/с) | rate(node_network_receive_bytes_total{device="eth0"}[5m]) |
Проверено: 28 серий по CPU/памяти/диску/сети, значения приходят.
Что добавилось по ходу
node_exporter на хосте — его не было, поэтому сам PVE не попадал
в метрики. Запущен контейнер node_exporter на хосте (network host,
порт 9100), добавлена цель в Prometheus (ct=0, host=pve).
Проверка: up{job="node",instance="192.168.1.10:9100"} = 1.
Ловушки
- Grafana живёт в CT113, а не в CT134 рядом с Prometheus.
- Правка
prometheus.ymlчерез heredoc внутриpct execне сработала молча — файл не изменился. Надёжно: сформировать файл на хосте, затемpct push. - instance для хоста —
192.168.1.10:9100, у CT —192.168.1.N:9100.
Публикация домена (21.10.2026)
До этого grafana.buryans.ru не работал: в конфиге VPS стоял
комментарий «сертификат не выпущен — пропущен».
Сделано:
- VPS: блок
listen 80+ certbot +listen 443→192.168.1.113:3000. - Домашний nginx:
grafana-local.conf+grafana-http-redirect.conf. - Сертификат скопирован в
/etc/nginx/certs/grafana.buryans.ru/. - OAuth-адреса в Grafana переведены на публичные:
GF_AUTH_GENERIC_OAUTH_AUTH_URL→https://authentik.buryans.ru/application/o/authorize/GF_AUTH_GENERIC_OAUTH_TOKEN_URL→https://authentik.buryans.ru/application/o/token/GF_AUTH_GENERIC_OAUTH_API_URL→https://authentik.buryans.ru/application/o/userinfo/
- В Authentik добавлен redirect
https://grafana.buryans.ru/login/generic_oauth.
Проверка:
http://grafana.buryans.ru → 301 https
https://grafana.buryans.ru → 302 /login (200)
SSO старт → https://authentik.buryans.ru/... ✅
Ловушки
- Grafana 12 хранит SSO не в
setting, а вsso_setting(и то записей может не быть — тогда работают только env). Таблицыsettingв базе нет вообще:relation "setting" does not exist. - После пересоздания контейнера том теряет владельца:
mkdir: can't create directory '/var/lib/grafana/plugins': Permission denied. Лечитсяchown -R 472:472 <volume>. - В compose был старый
AUTH_URLс внутренним адресом — env перекрывал всё, пока его не заменили в файле. GF_AUTH_GENERIC_OAUTH_TOKEN_URLбрался из.envчерез${...}— подстановка осталась внутренней, пока не вписали литерал.
Dozzle и Beszel
Оба в CT110, оба за SSO.
Dozzle — логи
| Параметр | Значение |
|---|---|
| Порт | 127.0.0.1:9998 |
| Прокси | oauth2-proxy-logs на 9997 |
| Домен | https://logs.buryans.ru |
| Проверка | http 301 → https 302 → Authentik |
Показывает контейнеры CT110. Больше не может: Docker на хосте PVE ограничен AppArmor, а сокет другого CT недоступен.
Beszel — мониторинг
| Параметр | Значение |
|---|---|
| Порт | 127.0.0.1:8092 |
| Прокси | oauth2-proxy-metrics на 9996 |
| Домен | https://metrics.buryans.ru |
| Проверка | http 301 → https 302 → Authentik |
Хаб поднят. Для сбора метрик с машин нужны агенты — по одному на каждую: хост, CT109, CT105 и т.д. Ключ агента берётся в интерфейсе Beszel после первого входа.
Ловушки
- Порты
9996/9997/9998свободны, а9999занятtelegram-proxy.py— проверять перед запуском. user: rootв compose для образа без passwd падает:unable to find user root. Нужноuser: "0:0".- OAuth2-прокси в
network_mode: hostслушает порт напрямую — маппинг портов ему не нужен и только мешает.