351 lines
16 KiB
Python
351 lines
16 KiB
Python
#!/usr/bin/env python3
|
|
"""Гигиенический скан Buryans Hub (V1, расширенный).
|
|
|
|
Только чтение. Проверки сгруппированы в реестр — легко добавлять новые.
|
|
Отчёт: ops/hygiene/report-YYYY-MM-DD.md
|
|
"""
|
|
import json
|
|
import os
|
|
import re
|
|
import subprocess
|
|
from collections import defaultdict
|
|
from datetime import date, datetime
|
|
|
|
OUT = "/root/buryan-infra/ops/hygiene"
|
|
VPS = "193.233.210.184"
|
|
FINDINGS = []
|
|
|
|
|
|
def add(sev, kind, what, why, fix):
|
|
FINDINGS.append({"sev": sev, "kind": kind, "what": what, "why": why, "fix": fix})
|
|
|
|
|
|
def sh(cmd, timeout=60):
|
|
try:
|
|
r = subprocess.run(cmd, shell=True, capture_output=True, text=True, timeout=timeout)
|
|
return (r.stdout or "").strip()
|
|
except Exception:
|
|
return ""
|
|
|
|
|
|
def shv(cmd, timeout=60):
|
|
return sh("ssh -o ConnectTimeout=10 -o BatchMode=yes root@%s '%s'"
|
|
% (VPS, cmd.replace("'", "'\\''")), timeout)
|
|
|
|
|
|
def cts():
|
|
out = []
|
|
for line in sh("pct list").splitlines()[1:]:
|
|
p = line.split()
|
|
if len(p) >= 2:
|
|
out.append({"ct": p[0], "status": p[1], "name": p[2] if len(p) > 2 else ""})
|
|
return out
|
|
|
|
|
|
def containers():
|
|
res = []
|
|
for c in cts():
|
|
if c["status"] != "running":
|
|
continue
|
|
out = sh("pct exec %s -- docker ps --format '{{.Names}}|{{.Image}}' 2>/dev/null" % c["ct"], 40)
|
|
for ln in out.splitlines():
|
|
if "|" in ln:
|
|
n, img = ln.split("|", 1)
|
|
res.append({"ct": c["ct"], "name": n, "image": img})
|
|
return res
|
|
|
|
|
|
# ─────────────────────────── проверки ───────────────────────────
|
|
|
|
def check_duplicates():
|
|
SHARED = {"beszel-agent", "promtail", "node-exporter", "node_exporter", "cadvisor",
|
|
"watchtower", "docker-proxy", "oauth2-proxy"}
|
|
INFRA = {"redis", "postgres", "mariadb", "nginx", "mosquitto", "eclipse-mosquitto",
|
|
"syncthing", "server", "traefik", "caddy"}
|
|
by_image = defaultdict(list)
|
|
for c in containers():
|
|
base = c["image"].split("/")[-1].split(":")[0].lower()
|
|
by_image[base].append(c)
|
|
for img, items in by_image.items():
|
|
cts_set = {i["ct"] for i in items}
|
|
if len(cts_set) < 2 or img in SHARED:
|
|
continue
|
|
sev = "medium" if img in INFRA else "high"
|
|
add(sev, "дубль сервиса",
|
|
"образ `%s` в CT: %s" % (img, ", ".join(sorted(cts_set))),
|
|
"инфраструктурный образ (может быть осознанно)" if img in INFRA
|
|
else "вероятно, старый экземпляр — тратит RAM",
|
|
"проверить необходимость всех экземпляров" if sev == "medium"
|
|
else "оставить один, лишний остановить")
|
|
|
|
|
|
def check_units():
|
|
inactive = sh("systemctl list-units --type=service --state=inactive --all --no-legend 2>/dev/null")
|
|
enabled_broken, disabled = [], []
|
|
for ln in inactive.splitlines():
|
|
name = ln.split()[0] if ln.split() else ""
|
|
if not re.match(r"(hub-|hermes|buryan)", name):
|
|
continue
|
|
en = sh("systemctl is-enabled %s 2>/dev/null" % name, 10).strip()
|
|
(enabled_broken if en == "enabled" else disabled).append(name)
|
|
if enabled_broken:
|
|
add("high", "включён, но не работает",
|
|
"%d юнитов: %s" % (len(enabled_broken), ", ".join(sorted(enabled_broken)[:10])),
|
|
"должны работать — но лежат", "journalctl -u <unit>, затем запустить или выключить")
|
|
if disabled:
|
|
add("medium", "заготовки без запуска",
|
|
"%d юнитов: %s" % (len(disabled), ", ".join(sorted(disabled)[:10])),
|
|
"спроектированы, но не введены — незавершённость",
|
|
"решить: внедрять, консервировать или удалить")
|
|
|
|
|
|
def check_failed_units():
|
|
out = sh("systemctl --failed --no-legend --no-pager 2>/dev/null")
|
|
if not out:
|
|
return
|
|
names = []
|
|
for ln in out.splitlines():
|
|
m = re.search(r"([\w@.\-]+\.(?:service|socket|timer|swap|mount))", ln)
|
|
if m:
|
|
names.append(m.group(1))
|
|
if names:
|
|
add("high", "упавшие юниты", "%d: %s" % (len(names), ", ".join(names[:12])),
|
|
"сервис в состоянии failed — не работает или не стартовал после сбоя",
|
|
"systemctl reset-failed <unit> && systemctl start <unit>")
|
|
|
|
|
|
def check_onboot():
|
|
for c in cts():
|
|
cfg = sh("cat /etc/pve/lxc/%s.conf 2>/dev/null" % c["ct"], 15)
|
|
if "onboot: 1" not in cfg:
|
|
add("low", "не поднимется сам", "CT%s (%s) onboot=0" % (c["ct"], c["name"]),
|
|
"после перезагрузки хоста останется выключенным", "включить onboot или подтвердить")
|
|
|
|
|
|
def check_ram():
|
|
mem = []
|
|
for c in cts():
|
|
if c["status"] != "running":
|
|
continue
|
|
out = sh("pct exec %s -- docker stats --no-stream --format '{{.Name}}|{{.MemUsage}}|{{.CPUPerc}}'"
|
|
% c["ct"], 45)
|
|
for ln in out.splitlines():
|
|
p = ln.split("|")
|
|
if len(p) >= 2:
|
|
m = re.search(r"([\d.]+)\s*([KMG])iB", p[1])
|
|
if m:
|
|
val = float(m.group(1)) * {"K": 1 / 1024, "M": 1, "G": 1024}[m.group(2)]
|
|
mem.append({"name": p[0], "ct": c["ct"], "mb": val,
|
|
"raw": p[1], "cpu": p[2] if len(p) > 2 else ""})
|
|
mem.sort(key=lambda x: -x["mb"])
|
|
top = " · ".join("%s %s" % (m["name"], m["raw"].split("/")[0].strip()) for m in mem[:6])
|
|
add("info", "потребление RAM", "топ: " + top, "лёджер: следим за ростом", "—")
|
|
for m in mem[:3]:
|
|
if m["mb"] > 800:
|
|
add("medium", "крупный потребитель RAM",
|
|
"%s (CT%s) — %s, CPU %s" % (m["name"], m["ct"], m["raw"], m["cpu"]),
|
|
"больше 800 МиБ — кандидат на оптимизацию", "проверить лимиты/необходимость")
|
|
|
|
|
|
def check_monitoring():
|
|
tg = sh("curl -s -m 15 http://192.168.1.134:9090/api/v1/targets", 25)
|
|
try:
|
|
d = json.loads(tg)
|
|
except Exception:
|
|
add("high", "мониторинг недоступен", "Prometheus не ответил на /api/v1/targets",
|
|
"система слепа", "проверить CT134 и контейнер prometheus")
|
|
return
|
|
act = (d.get("data") or {}).get("activeTargets") or []
|
|
down = [t for t in act if t.get("health") != "up"]
|
|
if down:
|
|
add("high", "слепые зоны", "targets down: " + ", ".join(
|
|
"%s(%s)" % (t.get("labels", {}).get("job"), t.get("labels", {}).get("instance"))
|
|
for t in down[:8]), "метрик по ним нет", "перезапустить экспортёр")
|
|
add("info", "мониторинг", "таргетов: %d, up: %d" % (len(act), len(act) - len(down)),
|
|
"полнота наблюдения", "—")
|
|
|
|
|
|
def check_disk():
|
|
out = sh("df -h / /var/lib/vz /media 2>/dev/null | tail -3")
|
|
for line in out.splitlines():
|
|
m = re.search(r"(\d+)%", line)
|
|
if m and int(m.group(1)) > 80:
|
|
add("high", "место на диске", line.strip(), "выше 80% — пора чистить",
|
|
"ротация логов, prune образов")
|
|
|
|
|
|
def check_ct_disk():
|
|
out = sh("df -h 2>/dev/null | grep -E 'lxc|subvol' | awk '{print $6, $5}' | head -20")
|
|
for line in out.splitlines():
|
|
parts = line.split()
|
|
if len(parts) == 2 and parts[1].rstrip("%").isdigit() and int(parts[1].rstrip("%")) > 85:
|
|
add("medium", "диск контейнера", "%s — %s" % (parts[0], parts[1]),
|
|
"контейнер близок к заполнению", "почистить внутри CT")
|
|
|
|
|
|
def check_certs():
|
|
for label, cmd in (("хост", "for d in /etc/letsencrypt/live/*/; do "
|
|
"n=$(basename $d); e=$(openssl x509 -enddate -noout -in $d/fullchain.pem 2>/dev/null | cut -d= -f2); "
|
|
"echo \"$n|$e\"; done"),
|
|
("VPS", "for d in /etc/letsencrypt/live/*/; do "
|
|
"n=$(basename $d); e=$(openssl x509 -enddate -noout -in $d/fullchain.pem 2>/dev/null | cut -d= -f2); "
|
|
"echo \"$n|$e\"; done")):
|
|
out = shv(cmd, 60) if label == "VPS" else sh(cmd, 60)
|
|
for ln in out.splitlines():
|
|
if "|" not in ln:
|
|
continue
|
|
name, enddate = ln.split("|", 1)
|
|
try:
|
|
exp = datetime.strptime(enddate.strip(), "%b %d %H:%M:%S %Y %Z")
|
|
days = (exp - datetime.now()).days
|
|
except Exception:
|
|
continue
|
|
if days < 0:
|
|
add("high", "сертификат просрочен", "%s (%s): %d дн." % (name, label, days),
|
|
"сайт не откроется по HTTPS", "certbot renew --force-renewal")
|
|
elif days < 21:
|
|
add("high", "сертификат истекает", "%s (%s): %d дн." % (name, label, days),
|
|
"осталось меньше трёх недель", "certbot renew")
|
|
|
|
|
|
def check_backups():
|
|
out = sh("ls -lt /var/lib/vz/dump/*.tar.zst /var/lib/vz/dump/*.vma.zst "
|
|
"/mnt/backup/*/*.tar.zst 2>/dev/null | head -3", 30)
|
|
if not out:
|
|
add("medium", "бэкапы", "не найдено свежих архивов в /var/lib/vz/dump",
|
|
"не понимаем, есть ли бэкапы", "проверить backup_configs.py и vzdump")
|
|
return
|
|
first = out.splitlines()[0]
|
|
m = re.search(r"(\w{3})\s+(\d+)\s+(\d+):(\d+)", first)
|
|
add("info", "бэкапы", "последний: " + first.split()[-1].split("/")[-1][:60],
|
|
"проверка свежести вручную по дате", "—")
|
|
|
|
|
|
def check_docker_waste():
|
|
total_img, total_vol, total_stopped = 0, 0, 0
|
|
for c in cts():
|
|
if c["status"] != "running":
|
|
continue
|
|
d = sh("pct exec %s -- docker system df --format '{{.Type}}|{{.TotalCount}}|{{.Reclaimable}}' 2>/dev/null" % c["ct"], 40)
|
|
for ln in d.splitlines():
|
|
p = ln.split("|")
|
|
if len(p) < 3:
|
|
continue
|
|
try:
|
|
cnt = int(p[1])
|
|
except Exception:
|
|
continue
|
|
if p[0].startswith("Images"):
|
|
total_img += cnt
|
|
if p[0].startswith("Volumes"):
|
|
total_vol += cnt
|
|
stopped = sh("pct exec %s -- docker ps -a --filter status=exited --format '{{.Names}}' 2>/dev/null" % c["ct"], 40)
|
|
n = len([x for x in stopped.splitlines() if x.strip()])
|
|
if n:
|
|
total_stopped += n
|
|
add("low", "остановленные контейнеры", "CT%s: %d (%s)" % (c["ct"], n, ", ".join(stopped.splitlines()[:5])),
|
|
"занимают место и путают инвентарь", "docker rm, если не нужны")
|
|
add("info", "docker-мусор", "образов: %d, томов: %d, остановленных: %d" % (total_img, total_vol, total_stopped),
|
|
"кандидаты на docker system prune", "docker image prune -a (осторожно)")
|
|
|
|
|
|
def check_logs():
|
|
big = sh("find /var/log -type f -size +200M 2>/dev/null | head -5", 60)
|
|
for f in big.splitlines():
|
|
sz = sh("du -h '%s' 2>/dev/null | cut -f1" % f, 10)
|
|
add("medium", "огромный лог", "%s — %s" % (f, sz), "растёт бесконтрольно",
|
|
"настроить logrotate или усечь")
|
|
jsz = sh("journalctl --disk-usage 2>/dev/null | grep -o '[0-9.]*[GM]' | head -1")
|
|
if jsz and (jsz.endswith("G") or (jsz.endswith("M") and float(jsz[:-1]) > 1500)):
|
|
add("medium", "журнал systemd", "journal занимает %s" % jsz, "растёт без ротации",
|
|
"journalctl --vacuum-size=500M")
|
|
|
|
|
|
def check_secrets_perms():
|
|
out = sh("find /root -maxdepth 1 -type f \\( -name '.*key*' -o -name '.*token*' -o -name '.*env' \\) "
|
|
"-perm /077 2>/dev/null | head -10", 30)
|
|
for f in out.splitlines():
|
|
add("high", "права на секрет", "%s доступен группе/всем" % f,
|
|
"секрет может утечь", "chmod 600 %s" % f)
|
|
|
|
|
|
def check_swap_pressure():
|
|
out = sh("free -m | tail -2")
|
|
lines = out.splitlines()
|
|
if len(lines) >= 2:
|
|
swap = lines[1].split()
|
|
if len(swap) >= 3:
|
|
used, total = int(swap[2]), int(swap[1])
|
|
if total and used / total > 0.5:
|
|
add("medium", "swap", "использовано %d из %d МиБ" % (used, total),
|
|
"память на пределе — риск лавины (инцидент 04.11)", "проверить топRAM, добавить память")
|
|
psi = sh("cat /proc/pressure/memory 2>/dev/null | head -1")
|
|
m = re.search(r"full avg10=([\d.]+)", psi or "")
|
|
if m and float(m.group(1)) > 20:
|
|
add("high", "давление памяти", "PSI full avg10=%.1f%%" % float(m.group(1)),
|
|
"процессы ждут память — деградация", "сократить нагрузку немедленно")
|
|
|
|
|
|
def check_cron_hotspots():
|
|
out = sh("cat /etc/cron.d/* /var/spool/cron/crontabs/* 2>/dev/null | "
|
|
"grep -E '^[0-9*]' | awk '{print $1\" \"$2}' | sort | uniq -c | sort -rn | head -5", 30)
|
|
for line in out.splitlines():
|
|
p = line.split()
|
|
if len(p) >= 3 and int(p[0]) >= 8:
|
|
add("medium", "cron-нагрузка", "%s задач в минуту %s %s" % (p[0], p[1], p[2]),
|
|
"одновременный старт — риск пиков", "разнести по времени")
|
|
|
|
|
|
CHECKS = [check_duplicates, check_units, check_failed_units, check_onboot, check_ram,
|
|
check_monitoring, check_disk, check_ct_disk, check_certs, check_backups,
|
|
check_docker_waste, check_logs, check_secrets_perms, check_swap_pressure,
|
|
check_cron_hotspots]
|
|
|
|
|
|
def main():
|
|
for fn in CHECKS:
|
|
try:
|
|
fn()
|
|
except Exception as e:
|
|
add("medium", "ошибка проверки", "%s: %s" % (fn.__name__, str(e)[:120]),
|
|
"проверка не отработала", "посмотреть трейс")
|
|
|
|
os.makedirs(OUT, exist_ok=True)
|
|
path = os.path.join(OUT, "report-%s.md" % date.today().isoformat())
|
|
counts = defaultdict(int)
|
|
for f in FINDINGS:
|
|
counts[f["sev"]] += 1
|
|
order = {"high": 0, "medium": 1, "low": 2, "info": 3}
|
|
|
|
lines = ["# Гигиенический отчёт — %s" % date.today().isoformat(), "",
|
|
"Проверок: %d · находок: **%d**" % (len(CHECKS), len(FINDINGS)),
|
|
"· high: %d · medium: %d · low: %d · info: %d" % (
|
|
counts["high"], counts["medium"], counts["low"], counts["info"]), "",
|
|
"## Сводка по категориям", "", "| Тип | Кол-во | Уровень |", "|---|---|---|"]
|
|
by_kind = defaultdict(lambda: [0, "info"])
|
|
for f in FINDINGS:
|
|
by_kind[f["kind"]][0] += 1
|
|
if order[f["sev"]] < order[by_kind[f["kind"]][1]]:
|
|
by_kind[f["kind"]][1] = f["sev"]
|
|
for kind, (n, sev) in sorted(by_kind.items(), key=lambda x: order[x[1][1]]):
|
|
lines.append("| %s | %d | %s |" % (kind, n, sev))
|
|
lines.append("")
|
|
|
|
for f in sorted(FINDINGS, key=lambda x: order[x["sev"]]):
|
|
lines += ["## [%s] %s" % (f["sev"].upper(), f["kind"]), "",
|
|
"**Что:** %s" % f["what"], "",
|
|
"**Почему:** %s" % f["why"], "",
|
|
"**Что делать:** %s" % f["fix"], ""]
|
|
|
|
open(path, "w", encoding="utf-8").write("\n".join(lines) + "\n")
|
|
print("отчёт:", path)
|
|
print("проверок: %d | находок: %d | high: %d medium: %d low: %d info: %d"
|
|
% (len(CHECKS), len(FINDINGS), counts["high"], counts["medium"], counts["low"], counts["info"]))
|
|
for f in sorted(FINDINGS, key=lambda x: order[x["sev"]]):
|
|
if f["sev"] in ("high", "medium"):
|
|
print(" [%s] %-26s %s" % (f["sev"], f["kind"], f["what"][:80]))
|
|
|
|
|
|
if __name__ == "__main__":
|
|
main()
|