Test d'un restore de backup SQL logique quotidien

[pagbrl]

Nous effectuons des backups SQL logiques (pgdump) quotidiens sur la plupart des base de données de nos outils.

Nous devons tester chacun de ces backups pour vérifier leur intégrité sur une instance dédiée ou en local.

[Hpoinseaux]

=== Configuration ===

BACKUP_DIR="/backups/pg" # Directory containing the dumps
LOG_FILE="/var/log/backup_restore_test.log"
DATE=$(date +%F)

echo "=== PostgreSQL Backup Restore Test - $DATE ===" >> $LOG_FILE

Loop through each dump file

for DUMP_FILE in "$BACKUP_DIR"/*.dump; do
DB_NAME="test_$(basename "$DUMP_FILE" .dump)_$DATE"

echo "🟡 Testing restore for: $DUMP_FILE" | tee -a $LOG_FILE

# Create a temporary database
createdb "$DB_NAME"
if [ $? -ne 0 ]; then
    echo "❌ Failed to create database $DB_NAME" | tee -a $LOG_FILE
    continue
fi

# Restore the dump
if pg_restore --exit-on-error --verbose -d "$DB_NAME" "$DUMP_FILE"; then
    echo "✅ Success: $DUMP_FILE restored into $DB_NAME" | tee -a $LOG_FILE
else
    echo "❌ Failure: $DUMP_FILE failed to restore" | tee -a $LOG_FILE
    # Add alerting here (email, webhook, etc.)
fi

# Drop the temporary database
dropdb "$DB_NAME"

done

echo "=== End of test - $DATE ===" >> $LOG_FILE`

une première idée poru faire des teste avec une db temporaire?

[pagbrl]

Hello Hadrien,

Oui ça me semble être une bonne base.
Je ne sais pas si on a vraiment besoin d'automatiser entièrement le process et de tester app par app quotidiennement, mais j'aimerais qu'on teste au moins les apps critiques (outline, moodle, mattermost) une fois pour voir. Déjà si la db se restaure correctement c'est pas mal.

On peut faire ça sur le cluster via ton script, mais point d'attention, on a pas les outils pg sur le cluster, on fait tout dans des containers. Si on veut faire tourner ça sur le cluster on pourrait écrire un petit rôle ansible qui contiendrait ton script et permettrait de faire des tests d'intégrité dans un container pg périodiquement.
Il faudra aussi gérer la récupération du dernier backup SQL depuis le bucket S3 pour bien tester la chaîne de backup en end-to-end (on a des exemples de code pour ça dans d4g-s3-backup

[Hpoinseaux]

PG restore
Dis moi ce que tu en pense :)