PyTorch Patterns

Sélectionné par Skill Harbor : les patterns PyTorch idiomatiques pour construire des applications de deep learning robustes, efficaces et reproductibles. Trois principes de base : code agnostique du device (jamais de .cuda() en dur, toujours passer par une variable device), reproductibilité d'abord (seeder torch, CUDA, numpy et random ensemble, cuDNN déterministe), et gestion explicite des shapes avec des annotations de dimensions dans chaque forward. Couvre une structure nn.Module propre avec initialisation explicite des poids (kaiming pour Linear/Conv, ones/zeros pour BatchNorm), des boucles d'entraînement complètes (précision mixte avec GradScaler, clipping de gradients, zero_grad(set_to_none=True)), une validation correcte (toujours model.eval() avec torch.no_grad(), jamais de dropout actif), une configuration DataLoader efficace (num_workers, pin_memory, persistent_workers, drop_last), des datasets sur mesure et fonctions collate pour données de longueur variable, du checkpointing complet (modèle plus optimiseur plus état d'époque, weights_only=True pour un chargement sûr), et la performance (AMP, gradient checkpointing qui échange du calcul contre de la mémoire, torch.compile depuis PyTorch 2.0). Inclut un tableau d'anti-patterns : oublier le mode eval en validation, opérations in-place qui cassent l'autograd, .item() avant backward, déplacer le modèle sur GPU dans la boucle. Par @affaan-m, listé ici avec crédit à son créateur. Tiré du dépôt affaan-m/ECC (MIT). Bémols honnêtes : pur guide, rien à installer ; il faut Python avec PyTorch installé, et un GPU pour profiter des sections performance. Skill Harbor ne vérifie jamais le code, examinez-le vous-même avant usage.