Files
buryan-infra/ops/scripts/migrate-grafana-v2.sh
T

293 lines
17 KiB
Bash
Executable File

#!/bin/bash
# ============================================================
# migrate-grafana-v2.sh — перенос Grafana на PostgreSQL (исправленный)
# ============================================================
# Учтены все три препятствия, найденные 14.10.2026:
#
# 1. ДВОИЧНЫЕ ДАННЫЕ. Таблица data_keys.encrypted_data — тип BLOB.
# Через CSV такие данные не проходят («invalid byte sequence»).
# Решение: для неё формируются готовые команды INSERT со значением
# в шестнадцатеричном виде и функцией decode.
#
# 2. НАЧАЛЬНЫЕ ЗАПИСИ СЛУЖБЫ. Grafana при создании схемы создаёт
# роли, организацию и пользователя — они конфликтуют с переносимыми
# по уникальным ключам. Решение: после создания схемы служба
# ОСТАНАВЛИВАЕТСЯ и ПРОВЕРЯЕТСЯ, что действительно остановлена,
# затем таблицы очищаются, и только потом идёт загрузка.
#
# 3. РАСХОЖДЕНИЕ СХЕМЫ. В Grafana 12 дэшборды хранятся не в таблице
# dashboard, а в едином хранилище: resource и resource_history.
# Поэтому переносятся ВСЕ таблицы с данными, а не только «понятные».
# Проверка идёт по каждой таблице, и потеря resource видна сразу.
#
# Служебные таблицы (cache_data, server_lock) пропускаются: это кэш
# и временные блокировки, они создаются службой заново.
#
# Запуск: bash migrate-grafana-v2.sh
# ============================================================
set -uo pipefail
CT=113
CONT=grafana
DIR=/opt/grafana
GDB=/var/lib/docker/volumes/bb96ab0c4792f406a1d68f4935ff151e8da041c0bbcacb3262de776fd0428df5/_data/grafana.db
PGDB=grafana_db
PGROLE=grafana_user
PGPASS='Grafana_Local_2026!'
STAMP=$(date +%Y%m%d_%H%M%S)
QUAR="/mnt/backups/retired/${STAMP}-grafana-v2"
WORK="/tmp/grafana-v2-$STAMP"
mkdir -p "$QUAR" "$WORK"
SKIP="cache_data server_lock"
p() { pct exec 151 -- sudo -u postgres psql "$@"; }
say() { echo "[$(date '+%T')] $*"; }
API_VER=$(pct exec "$CT" -- docker version --format '{{.Server.APIVersion}}' 2>/dev/null)
rollback() {
say "⟲ ВОЗВРАТ"
pct exec "$CT" -- bash -c "cd '$DIR' && cp docker-compose.yml.migr-backup docker-compose.yml 2>/dev/null" >/dev/null 2>&1
pct exec "$CT" -- bash -c "cd '$DIR' && DOCKER_API_VERSION=$API_VER docker compose up -d $CONT" >/dev/null 2>&1
sleep 30
printf ' состояние: %s\n' "$(pct exec "$CT" -- docker inspect "$CONT" --format '{{.State.Status}}' 2>/dev/null)"
echo -n ' health: '; curl -s -m 10 http://192.168.1.113:3000/api/health 2>/dev/null | jq -r '.database' 2>/dev/null
echo -n ' дэшбордов: '; curl -s -m 10 'http://192.168.1.113:3000/api/search?type=dash-db' 2>/dev/null | jq -r 'length' 2>/dev/null
p -tAc "DROP DATABASE IF EXISTS $PGDB" >/dev/null 2>&1
p -tAc "DROP ROLE IF EXISTS $PGROLE" >/dev/null 2>&1
say " база и роль удалены"
}
echo "╔══════════════════════════════════════════════════════════╗"
echo "║ GRAFANA → POSTGRESQL (исправленный перенос) ║"
echo "╚══════════════════════════════════════════════════════════╝"
# ── 0-1. Проверки и точка отката ─────────────────────────────
say "0. точка отката"
SNAP="pre-grafana-pg2-$STAMP"
pct snapshot "$CT" "$SNAP" --description "перед переносом Grafana на PostgreSQL" >/dev/null 2>&1
pct listsnapshot "$CT" 2>/dev/null | grep -q "$SNAP" || { say "❌ снимок не создался"; exit 1; }
pct exec "$CT" -- tar -c -C / "${GDB#/}" 2>/dev/null | gzip > "$QUAR/base.tar.gz"
gunzip -t "$QUAR/base.tar.gz" 2>/dev/null || { say "❌ копия повреждена"; exit 1; }
pct exec "$CT" -- cp "$DIR/docker-compose.yml" "$DIR/docker-compose.yml.migr-backup" 2>/dev/null
echo " снимок $SNAP, копия базы $(du -h "$QUAR/base.tar.gz" | cut -f1), конфигурация сохранена"
# ── 2. Разведка ──────────────────────────────────────────────
say "1. читаю файловую базу"
pct exec "$CT" -- sqlite3 "$GDB" "SELECT name FROM sqlite_master WHERE type='table' AND name NOT LIKE 'sqlite_%' ORDER BY name" 2>/dev/null > "$WORK/tables.txt"
NT=$(grep -c . "$WORK/tables.txt")
[ "$NT" -gt 0 ] || { say "❌ таблиц не прочитано — стоп"; exit 1; }
echo " таблиц всего: $NT"
: > "$WORK/counts.txt"
: > "$WORK/blobtables.txt"
while read -r t; do
[ -n "$t" ] || continue
n=$(pct exec "$CT" -- sqlite3 "$GDB" "SELECT count(*) FROM \"$t\"" 2>/dev/null)
printf '%s|%s\n' "$t" "${n:-0}" >> "$WORK/counts.txt"
blobs=$(pct exec "$CT" -- sqlite3 "$GDB" "SELECT group_concat(name) FROM pragma_table_info('$t') WHERE type LIKE '%BLOB%'" 2>/dev/null)
[ -n "$blobs" ] && [ "${n:-0}" -gt 0 ] && printf '%s|%s\n' "$t" "$blobs" >> "$WORK/blobtables.txt"
done < "$WORK/tables.txt"
WITH_DATA=$(awk -F'|' '$2>0' "$WORK/counts.txt" | wc -l)
TOTAL=$(awk -F'|' '{s+=$2} END{print s+0}' "$WORK/counts.txt")
echo " таблиц с данными: $WITH_DATA, строк всего: $TOTAL"
echo " таблицы с двоичными данными и строками:"
cat "$WORK/blobtables.txt" 2>/dev/null | sed 's/^/ /' || echo " нет"
# ── 3. База ──────────────────────────────────────────────────
say "2. создаю базу и роль"
p -tAc "SELECT count(*) FROM pg_roles WHERE rolname='$PGROLE'" 2>/dev/null | grep -q '^1$' || \
p -tAc "CREATE ROLE $PGROLE LOGIN PASSWORD '$PGPASS'" >/dev/null 2>&1
p -tAc "SELECT count(*) FROM pg_database WHERE datname='$PGDB'" 2>/dev/null | grep -q '^1$' || \
p -tAc "CREATE DATABASE $PGDB WITH OWNER $PGROLE ENCODING 'UTF8' LOCALE_PROVIDER icu ICU_LOCALE 'ru-RU' LOCALE 'C.utf8' TEMPLATE template0" >/dev/null 2>&1
echo " база $PGDB готова"
# ── 4. Создание схемы службой ────────────────────────────────
say "3. переключаю Grafana на PostgreSQL (схему создаёт сама)"
pct exec "$CT" -- docker stop -t 30 "$CONT" >/dev/null 2>&1
pct exec "$CT" -- bash -c "
cd '$DIR'
python3 - <<'PYEOF'
p = '$DIR/docker-compose.yml'
s = open(p).read()
add = ''' - GF_DATABASE_TYPE=postgres
- GF_DATABASE_HOST=192.168.1.151:5432
- GF_DATABASE_NAME=$PGDB
- GF_DATABASE_USER=$PGROLE
- GF_DATABASE_PASSWORD=$PGPASS
- GF_DATABASE_SSL_MODE=disable
'''
if 'GF_DATABASE_TYPE' not in s:
s = s.replace(' environment:\n', ' environment:\n' + add, 1)
open(p, 'w').write(s)
PYEOF
" >/dev/null 2>&1
pct exec "$CT" -- bash -c "cd '$DIR' && DOCKER_API_VERSION=$API_VER docker compose up -d $CONT" >/dev/null 2>&1
say " жду создания схемы"
created=0
for i in $(seq 1 36); do
sleep 5
created=$(p -d "$PGDB" -tAc "SELECT count(*) FROM information_schema.tables WHERE table_schema='public'" 2>/dev/null)
if [ "${created:-0}" -gt 50 ]; then break; fi
# если контейнер не работает — ждать бессмысленно, показываю причину
cst=$(pct exec "$CT" -- docker inspect "$CONT" --format '{{.State.Status}}' 2>/dev/null)
if [ -n "$cst" ] && [ "$cst" != "running" ] && [ "$cst" != "created" ]; then
say " контейнер в состоянии '$cst' — ждать бессмысленно"
break
fi
done
echo " таблиц создано: ${created:-0}"
if [ "${created:-0}" -le 50 ]; then
say "❌ схема не создана — возврат"
echo " журнал Grafana (последние строки):"
pct exec "$CT" -- docker logs --tail 12 "$CONT" 2>&1 | tail -12 | sed 's/^/ /'
rollback; exit 1
fi
# ── 5. Остановка и очистка ───────────────────────────────────
say "4. убираю контейнер с пути на время загрузки"
pct exec "$CT" -- docker stop -t 30 "$CONT" >/dev/null 2>&1
for i in $(seq 1 12); do
st=$(pct exec "$CT" -- docker inspect "$CONT" --format '{{.State.Status}}' 2>/dev/null)
[ "$st" = "exited" ] && break
sleep 3
done
echo " состояние после остановки: $st"
if [ "$st" != "exited" ]; then
say "❌ не удалось остановить"
rollback; exit 1
fi
# КОНТЕЙНЕР УДАЛЯЕТСЯ. Проверка «exited» недостаточна: на практике служба
# поднималась снова и перезаписывала загруженные данные своими начальными
# (роли 115 → 7, пользователь 2 → 1). Пока контейнера нет — писать некому.
# Удаление повторяется: с первой попытки иногда не проходит.
removed=no
for i in 1 2 3 4 5; do
pct exec "$CT" -- docker rm -f "$CONT" >/dev/null 2>&1
sleep 2
if ! pct exec "$CT" -- docker inspect "$CONT" >/dev/null 2>&1; then
removed=yes; break
fi
echo " попытка $i: контейнер ещё на месте, повторяю"
done
echo " контейнер удалён: $removed"
if [ "$removed" != "yes" ]; then
say "❌ контейнер не удалился — загрузка была бы перезаписана"
rollback; exit 1
fi
say "5. очищаю таблицы, созданные службой"
TR=$(p -d "$PGDB" -tAc "
DO \$\$ DECLARE r record; BEGIN
FOR r IN SELECT tablename FROM pg_tables WHERE schemaname='public' LOOP
EXECUTE 'TRUNCATE TABLE ' || quote_ident(r.tablename) || ' CASCADE';
END LOOP;
END \$\$;" 2>&1 | grep -ci error || echo 0)
echo " ошибок очистки: $TR"
# ещё раз убеждаюсь, что таблицы пусты
left=$(p -d "$PGDB" -tAc "SELECT coalesce(sum(n_live_tup),0) FROM pg_stat_user_tables" 2>/dev/null)
echo " строк в базе после очистки: ${left:-?}"
# ── 6. Загрузка ──────────────────────────────────────────────
say "6. загружаю данные"
loaded=0; skipped=0; failed=0
: > "$WORK/failed.txt"
is_skip() { for s in $SKIP; do [ "$1" = "$s" ] && return 0; done; return 1; }
while IFS='|' read -r t before; do
[ -n "$t" ] || continue
[ "${before:-0}" -eq 0 ] && { skipped=$((skipped + 1)); continue; }
is_skip "$t" && { printf ' · %-26s пропущена (служебная)\n' "$t"; skipped=$((skipped + 1)); continue; }
has=$(p -d "$PGDB" -tAc "SELECT count(*) FROM information_schema.tables WHERE table_name='$t' AND table_schema='public'" 2>/dev/null)
if [ "${has:-0}" = "0" ]; then
printf ' ⚠️ %-26s нет в PostgreSQL\n' "$t"; failed=$((failed + 1))
printf '%s|нет в PostgreSQL\n' "$t" >> "$WORK/failed.txt"; continue
fi
blobs=$(awk -F'|' -v t="$t" '$1==t {print $2}' "$WORK/blobtables.txt")
if [ -n "$blobs" ]; then
# ДВОИЧНЫЕ: отдельный проверяемый загрузчик.
# Разбор строки средствами bash давал СДВИГ ПОЛЕЙ (scope получал
# значение active), поэтому генерация команд там построена на awk,
# а содержимое сверяется с файловой базой побайтово.
if bash /root/load-blob-table.sh "$t" "$GDB" "$CT" "$PGDB" 2>&1 | sed 's/^/ /'; then
loaded=$((loaded + 1))
else
failed=$((failed + 1))
printf '%s|загрузчик двоичных данных вернул ошибку\n' "$t" >> "$WORK/failed.txt"
fi
else
# ТЕКСТОВЫЕ: CSV через COPY
pct exec "$CT" -- sqlite3 "$GDB" -header -csv "SELECT * FROM \"$t\"" > "$WORK/$t.csv" 2>/dev/null
pct push 151 "$WORK/$t.csv" "/tmp/load-$t.csv" >/dev/null 2>&1
if pct exec 151 -- sudo -u postgres psql -q -d "$PGDB" -c "\copy \"$t\" FROM '/tmp/load-$t.csv' CSV HEADER" >/dev/null 2>"$WORK/err.txt"; then
loaded=$((loaded + 1))
else
failed=$((failed + 1))
printf ' ⚠️ %-26s %s\n' "$t" "$(head -1 "$WORK/err.txt" | cut -c1-60)"
printf '%s|%s\n' "$t" "$(head -1 "$WORK/err.txt" | cut -c1-60)" >> "$WORK/failed.txt"
fi
pct exec 151 -- rm -f "/tmp/load-$t.csv" >/dev/null 2>&1
fi
done < "$WORK/counts.txt"
echo " загружено: $loaded, пропущено: $skipped, ошибок: $failed"
# ── 7. Проверка ──────────────────────────────────────────────
say "7. ПРОВЕРКА ПОЛНОТЫ ПО КАЖДОЙ ТАБЛИЦЕ"
printf ' %-32s %8s %8s %s\n' ТАБЛИЦА БЫЛО СТАЛО ИТОГ
printf ' %s\n' '-----------------------------------------------------------'
same=0; differ=0; missing=0
while IFS='|' read -r t before; do
[ -n "$t" ] || continue
[ "${before:-0}" -eq 0 ] && continue
if is_skip "$t"; then
printf ' %-32s %8s %8s · пропущена\n' "$t" "$before" "—"
continue
fi
after=$(p -d "$PGDB" -tAc "SELECT count(*) FROM \"$t\"" 2>/dev/null)
if [ "${before}" = "${after}" ]; then
same=$((same + 1))
elif [ -z "$after" ]; then
printf ' %-32s %8s %8s ❌\n' "$t" "$before" "нет"; missing=$((missing + 1))
else
printf ' %-32s %8s %8s ❌\n' "$t" "$before" "$after"; differ=$((differ + 1))
fi
done < "$WORK/counts.txt"
echo
printf ' совпало: %s, расхождений: %s, отсутствует: %s\n' "$same" "$differ" "$missing"
# ── 8. Запуск и проверка службы ──────────────────────────────
say "8. запускаю Grafana"
pct exec "$CT" -- bash -c "cd '$DIR' && DOCKER_API_VERSION=$API_VER docker compose up -d $CONT" >/dev/null 2>&1
sleep 45
ST=$(pct exec "$CT" -- docker inspect "$CONT" --format '{{.State.Status}}' 2>/dev/null)
HL=$(curl -s -m 15 http://192.168.1.113:3000/api/health 2>/dev/null | jq -r '.database' 2>/dev/null)
DB_CNT=$(curl -s -m 15 'http://192.168.1.113:3000/api/search?type=dash-db' 2>/dev/null | jq -r 'length' 2>/dev/null)
US_CNT=$(curl -s -m 15 http://192.168.1.113:3000/api/users 2>/dev/null | jq -r 'length' 2>/dev/null)
DS_CNT=$(curl -s -m 15 http://192.168.1.113:3000/api/datasources 2>/dev/null | jq -r 'length' 2>/dev/null)
printf ' состояние: %s | health: %s | дэшбордов: %s | пользователей: %s | источников: %s\n' \
"$ST" "${HL:-?}" "${DB_CNT:-?}" "${US_CNT:-?}" "${DS_CNT:-?}"
# ── 9. Итог ──────────────────────────────────────────────────
echo
if [ "$differ" -eq 0 ] && [ "$missing" -eq 0 ] && [ "$failed" -eq 0 ] && [ "$same" -gt 0 ] \
&& [ "${DB_CNT:-0}" -ge 5 ] && [ "${US_CNT:-0}" -ge 5 ]; then
echo " ✅ GRAFANA ПЕРЕНЕСЁН НА POSTGRESQL"
echo " таблиц совпало: $same"
echo " дэшбордов: $DB_CNT, пользователей: $US_CNT, источников: $DS_CNT"
echo " точка отката: $SNAP"
else
echo " ⚠️ ПЕРЕНОС НЕ ПОДТВЕРЖДЁН — расхождений $differ, отсутствует $missing, ошибок $failed"
echo " дэшбордов $DB_CNT (ожидалось 5), пользователей $US_CNT (ожидалось 5)"
echo " возвращаю Grafana на файловую базу"
rollback
fi
echo " карантин: $QUAR, рабочий каталог: $WORK"