Skip to content

CybercentreCanada/ice-keeper

Repository files navigation

ice-keeper

ice-keeper is a service that automates Iceberg table maintenance. ice-keeper is scheduled to run every night in Airflow.

ice-keeper can:

  • expire old snapshots
  • find and remove orphan files (not tracked by Iceberg)
  • run an optimization on unhealthy partitions to improve search performance

user documentation

developer documentation


ice-keeper (Français)

ice-keeper est un service qui automatise la maintenance des tables Iceberg. ice-keeper est programmé pour s'exécuter chaque nuit dans Airflow.

ice-keeper peut :

  • expirer les anciens instantanés
  • trouver et supprimer les fichiers orphelins (non suivis par Iceberg)
  • exécuter une optimisation sur les partitions non saines pour améliorer les performances de recherche

documentation utilisateur

documentation développeur

About

Table Maintenance System (TMS) for Apache Iceberg that improves performance and hygiene: snapshot expiry, orphan file removal, and partition optimization.

Resources

License

Stars

Watchers

Forks

Releases

No releases published

Packages

 
 
 

Contributors