Files
buryan-infra/ops/scripts/hygiene_scan.py
T

351 lines
16 KiB
Python

#!/usr/bin/env python3
"""Гигиенический скан Buryans Hub (V1, расширенный).
Только чтение. Проверки сгруппированы в реестр — легко добавлять новые.
Отчёт: ops/hygiene/report-YYYY-MM-DD.md
"""
import json
import os
import re
import subprocess
from collections import defaultdict
from datetime import date, datetime
OUT = "/root/buryan-infra/ops/hygiene"
VPS = "193.233.210.184"
FINDINGS = []
def add(sev, kind, what, why, fix):
FINDINGS.append({"sev": sev, "kind": kind, "what": what, "why": why, "fix": fix})
def sh(cmd, timeout=60):
try:
r = subprocess.run(cmd, shell=True, capture_output=True, text=True, timeout=timeout)
return (r.stdout or "").strip()
except Exception:
return ""
def shv(cmd, timeout=60):
return sh("ssh -o ConnectTimeout=10 -o BatchMode=yes root@%s '%s'"
% (VPS, cmd.replace("'", "'\\''")), timeout)
def cts():
out = []
for line in sh("pct list").splitlines()[1:]:
p = line.split()
if len(p) >= 2:
out.append({"ct": p[0], "status": p[1], "name": p[2] if len(p) > 2 else ""})
return out
def containers():
res = []
for c in cts():
if c["status"] != "running":
continue
out = sh("pct exec %s -- docker ps --format '{{.Names}}|{{.Image}}' 2>/dev/null" % c["ct"], 40)
for ln in out.splitlines():
if "|" in ln:
n, img = ln.split("|", 1)
res.append({"ct": c["ct"], "name": n, "image": img})
return res
# ─────────────────────────── проверки ───────────────────────────
def check_duplicates():
SHARED = {"beszel-agent", "promtail", "node-exporter", "node_exporter", "cadvisor",
"watchtower", "docker-proxy", "oauth2-proxy"}
INFRA = {"redis", "postgres", "mariadb", "nginx", "mosquitto", "eclipse-mosquitto",
"syncthing", "server", "traefik", "caddy"}
by_image = defaultdict(list)
for c in containers():
base = c["image"].split("/")[-1].split(":")[0].lower()
by_image[base].append(c)
for img, items in by_image.items():
cts_set = {i["ct"] for i in items}
if len(cts_set) < 2 or img in SHARED:
continue
sev = "medium" if img in INFRA else "high"
add(sev, "дубль сервиса",
"образ `%s` в CT: %s" % (img, ", ".join(sorted(cts_set))),
"инфраструктурный образ (может быть осознанно)" if img in INFRA
else "вероятно, старый экземпляр — тратит RAM",
"проверить необходимость всех экземпляров" if sev == "medium"
else "оставить один, лишний остановить")
def check_units():
inactive = sh("systemctl list-units --type=service --state=inactive --all --no-legend 2>/dev/null")
enabled_broken, disabled = [], []
for ln in inactive.splitlines():
name = ln.split()[0] if ln.split() else ""
if not re.match(r"(hub-|hermes|buryan)", name):
continue
en = sh("systemctl is-enabled %s 2>/dev/null" % name, 10).strip()
(enabled_broken if en == "enabled" else disabled).append(name)
if enabled_broken:
add("high", "включён, но не работает",
"%d юнитов: %s" % (len(enabled_broken), ", ".join(sorted(enabled_broken)[:10])),
"должны работать — но лежат", "journalctl -u <unit>, затем запустить или выключить")
if disabled:
add("medium", "заготовки без запуска",
"%d юнитов: %s" % (len(disabled), ", ".join(sorted(disabled)[:10])),
"спроектированы, но не введены — незавершённость",
"решить: внедрять, консервировать или удалить")
def check_failed_units():
out = sh("systemctl --failed --no-legend --no-pager 2>/dev/null")
if not out:
return
names = []
for ln in out.splitlines():
m = re.search(r"([\w@.\-]+\.(?:service|socket|timer|swap|mount))", ln)
if m:
names.append(m.group(1))
if names:
add("high", "упавшие юниты", "%d: %s" % (len(names), ", ".join(names[:12])),
"сервис в состоянии failed — не работает или не стартовал после сбоя",
"systemctl reset-failed <unit> && systemctl start <unit>")
def check_onboot():
for c in cts():
cfg = sh("cat /etc/pve/lxc/%s.conf 2>/dev/null" % c["ct"], 15)
if "onboot: 1" not in cfg:
add("low", "не поднимется сам", "CT%s (%s) onboot=0" % (c["ct"], c["name"]),
"после перезагрузки хоста останется выключенным", "включить onboot или подтвердить")
def check_ram():
mem = []
for c in cts():
if c["status"] != "running":
continue
out = sh("pct exec %s -- docker stats --no-stream --format '{{.Name}}|{{.MemUsage}}|{{.CPUPerc}}'"
% c["ct"], 45)
for ln in out.splitlines():
p = ln.split("|")
if len(p) >= 2:
m = re.search(r"([\d.]+)\s*([KMG])iB", p[1])
if m:
val = float(m.group(1)) * {"K": 1 / 1024, "M": 1, "G": 1024}[m.group(2)]
mem.append({"name": p[0], "ct": c["ct"], "mb": val,
"raw": p[1], "cpu": p[2] if len(p) > 2 else ""})
mem.sort(key=lambda x: -x["mb"])
top = " · ".join("%s %s" % (m["name"], m["raw"].split("/")[0].strip()) for m in mem[:6])
add("info", "потребление RAM", "топ: " + top, "лёджер: следим за ростом", "—")
for m in mem[:3]:
if m["mb"] > 800:
add("medium", "крупный потребитель RAM",
"%s (CT%s) — %s, CPU %s" % (m["name"], m["ct"], m["raw"], m["cpu"]),
"больше 800 МиБ — кандидат на оптимизацию", "проверить лимиты/необходимость")
def check_monitoring():
tg = sh("curl -s -m 15 http://192.168.1.134:9090/api/v1/targets", 25)
try:
d = json.loads(tg)
except Exception:
add("high", "мониторинг недоступен", "Prometheus не ответил на /api/v1/targets",
"система слепа", "проверить CT134 и контейнер prometheus")
return
act = (d.get("data") or {}).get("activeTargets") or []
down = [t for t in act if t.get("health") != "up"]
if down:
add("high", "слепые зоны", "targets down: " + ", ".join(
"%s(%s)" % (t.get("labels", {}).get("job"), t.get("labels", {}).get("instance"))
for t in down[:8]), "метрик по ним нет", "перезапустить экспортёр")
add("info", "мониторинг", "таргетов: %d, up: %d" % (len(act), len(act) - len(down)),
"полнота наблюдения", "—")
def check_disk():
out = sh("df -h / /var/lib/vz /media 2>/dev/null | tail -3")
for line in out.splitlines():
m = re.search(r"(\d+)%", line)
if m and int(m.group(1)) > 80:
add("high", "место на диске", line.strip(), "выше 80% — пора чистить",
"ротация логов, prune образов")
def check_ct_disk():
out = sh("df -h 2>/dev/null | grep -E 'lxc|subvol' | awk '{print $6, $5}' | head -20")
for line in out.splitlines():
parts = line.split()
if len(parts) == 2 and parts[1].rstrip("%").isdigit() and int(parts[1].rstrip("%")) > 85:
add("medium", "диск контейнера", "%s — %s" % (parts[0], parts[1]),
"контейнер близок к заполнению", "почистить внутри CT")
def check_certs():
for label, cmd in (("хост", "for d in /etc/letsencrypt/live/*/; do "
"n=$(basename $d); e=$(openssl x509 -enddate -noout -in $d/fullchain.pem 2>/dev/null | cut -d= -f2); "
"echo \"$n|$e\"; done"),
("VPS", "for d in /etc/letsencrypt/live/*/; do "
"n=$(basename $d); e=$(openssl x509 -enddate -noout -in $d/fullchain.pem 2>/dev/null | cut -d= -f2); "
"echo \"$n|$e\"; done")):
out = shv(cmd, 60) if label == "VPS" else sh(cmd, 60)
for ln in out.splitlines():
if "|" not in ln:
continue
name, enddate = ln.split("|", 1)
try:
exp = datetime.strptime(enddate.strip(), "%b %d %H:%M:%S %Y %Z")
days = (exp - datetime.now()).days
except Exception:
continue
if days < 0:
add("high", "сертификат просрочен", "%s (%s): %d дн." % (name, label, days),
"сайт не откроется по HTTPS", "certbot renew --force-renewal")
elif days < 21:
add("high", "сертификат истекает", "%s (%s): %d дн." % (name, label, days),
"осталось меньше трёх недель", "certbot renew")
def check_backups():
out = sh("ls -lt /var/lib/vz/dump/*.tar.zst /var/lib/vz/dump/*.vma.zst "
"/mnt/backup/*/*.tar.zst 2>/dev/null | head -3", 30)
if not out:
add("medium", "бэкапы", "не найдено свежих архивов в /var/lib/vz/dump",
"не понимаем, есть ли бэкапы", "проверить backup_configs.py и vzdump")
return
first = out.splitlines()[0]
m = re.search(r"(\w{3})\s+(\d+)\s+(\d+):(\d+)", first)
add("info", "бэкапы", "последний: " + first.split()[-1].split("/")[-1][:60],
"проверка свежести вручную по дате", "—")
def check_docker_waste():
total_img, total_vol, total_stopped = 0, 0, 0
for c in cts():
if c["status"] != "running":
continue
d = sh("pct exec %s -- docker system df --format '{{.Type}}|{{.TotalCount}}|{{.Reclaimable}}' 2>/dev/null" % c["ct"], 40)
for ln in d.splitlines():
p = ln.split("|")
if len(p) < 3:
continue
try:
cnt = int(p[1])
except Exception:
continue
if p[0].startswith("Images"):
total_img += cnt
if p[0].startswith("Volumes"):
total_vol += cnt
stopped = sh("pct exec %s -- docker ps -a --filter status=exited --format '{{.Names}}' 2>/dev/null" % c["ct"], 40)
n = len([x for x in stopped.splitlines() if x.strip()])
if n:
total_stopped += n
add("low", "остановленные контейнеры", "CT%s: %d (%s)" % (c["ct"], n, ", ".join(stopped.splitlines()[:5])),
"занимают место и путают инвентарь", "docker rm, если не нужны")
add("info", "docker-мусор", "образов: %d, томов: %d, остановленных: %d" % (total_img, total_vol, total_stopped),
"кандидаты на docker system prune", "docker image prune -a (осторожно)")
def check_logs():
big = sh("find /var/log -type f -size +200M 2>/dev/null | head -5", 60)
for f in big.splitlines():
sz = sh("du -h '%s' 2>/dev/null | cut -f1" % f, 10)
add("medium", "огромный лог", "%s — %s" % (f, sz), "растёт бесконтрольно",
"настроить logrotate или усечь")
jsz = sh("journalctl --disk-usage 2>/dev/null | grep -o '[0-9.]*[GM]' | head -1")
if jsz and (jsz.endswith("G") or (jsz.endswith("M") and float(jsz[:-1]) > 1500)):
add("medium", "журнал systemd", "journal занимает %s" % jsz, "растёт без ротации",
"journalctl --vacuum-size=500M")
def check_secrets_perms():
out = sh("find /root -maxdepth 1 -type f \\( -name '.*key*' -o -name '.*token*' -o -name '.*env' \\) "
"-perm /077 2>/dev/null | head -10", 30)
for f in out.splitlines():
add("high", "права на секрет", "%s доступен группе/всем" % f,
"секрет может утечь", "chmod 600 %s" % f)
def check_swap_pressure():
out = sh("free -m | tail -2")
lines = out.splitlines()
if len(lines) >= 2:
swap = lines[1].split()
if len(swap) >= 3:
used, total = int(swap[2]), int(swap[1])
if total and used / total > 0.5:
add("medium", "swap", "использовано %d из %d МиБ" % (used, total),
"память на пределе — риск лавины (инцидент 04.11)", "проверить топRAM, добавить память")
psi = sh("cat /proc/pressure/memory 2>/dev/null | head -1")
m = re.search(r"full avg10=([\d.]+)", psi or "")
if m and float(m.group(1)) > 20:
add("high", "давление памяти", "PSI full avg10=%.1f%%" % float(m.group(1)),
"процессы ждут память — деградация", "сократить нагрузку немедленно")
def check_cron_hotspots():
out = sh("cat /etc/cron.d/* /var/spool/cron/crontabs/* 2>/dev/null | "
"grep -E '^[0-9*]' | awk '{print $1\" \"$2}' | sort | uniq -c | sort -rn | head -5", 30)
for line in out.splitlines():
p = line.split()
if len(p) >= 3 and int(p[0]) >= 8:
add("medium", "cron-нагрузка", "%s задач в минуту %s %s" % (p[0], p[1], p[2]),
"одновременный старт — риск пиков", "разнести по времени")
CHECKS = [check_duplicates, check_units, check_failed_units, check_onboot, check_ram,
check_monitoring, check_disk, check_ct_disk, check_certs, check_backups,
check_docker_waste, check_logs, check_secrets_perms, check_swap_pressure,
check_cron_hotspots]
def main():
for fn in CHECKS:
try:
fn()
except Exception as e:
add("medium", "ошибка проверки", "%s: %s" % (fn.__name__, str(e)[:120]),
"проверка не отработала", "посмотреть трейс")
os.makedirs(OUT, exist_ok=True)
path = os.path.join(OUT, "report-%s.md" % date.today().isoformat())
counts = defaultdict(int)
for f in FINDINGS:
counts[f["sev"]] += 1
order = {"high": 0, "medium": 1, "low": 2, "info": 3}
lines = ["# Гигиенический отчёт — %s" % date.today().isoformat(), "",
"Проверок: %d · находок: **%d**" % (len(CHECKS), len(FINDINGS)),
"· high: %d · medium: %d · low: %d · info: %d" % (
counts["high"], counts["medium"], counts["low"], counts["info"]), "",
"## Сводка по категориям", "", "| Тип | Кол-во | Уровень |", "|---|---|---|"]
by_kind = defaultdict(lambda: [0, "info"])
for f in FINDINGS:
by_kind[f["kind"]][0] += 1
if order[f["sev"]] < order[by_kind[f["kind"]][1]]:
by_kind[f["kind"]][1] = f["sev"]
for kind, (n, sev) in sorted(by_kind.items(), key=lambda x: order[x[1][1]]):
lines.append("| %s | %d | %s |" % (kind, n, sev))
lines.append("")
for f in sorted(FINDINGS, key=lambda x: order[x["sev"]]):
lines += ["## [%s] %s" % (f["sev"].upper(), f["kind"]), "",
"**Что:** %s" % f["what"], "",
"**Почему:** %s" % f["why"], "",
"**Что делать:** %s" % f["fix"], ""]
open(path, "w", encoding="utf-8").write("\n".join(lines) + "\n")
print("отчёт:", path)
print("проверок: %d | находок: %d | high: %d medium: %d low: %d info: %d"
% (len(CHECKS), len(FINDINGS), counts["high"], counts["medium"], counts["low"], counts["info"]))
for f in sorted(FINDINGS, key=lambda x: order[x["sev"]]):
if f["sev"] in ("high", "medium"):
print(" [%s] %-26s %s" % (f["sev"], f["kind"], f["what"][:80]))
if __name__ == "__main__":
main()