🧪 Le labo : 5 stratégies en parallèle
Objectif : faire absorber au champion QuickDraw (run-004d) le style des 511 beaux chats Sketchy — sans qu'il oublie son métier. Après 3 échecs instructifs (fenêtre agrandie, entraînement de zéro, bain 100 % Sketchy), on teste 5 recettes de fine-tuning en même temps sur le GPU gratuit de Kaggle. Chaque planche : 36 générations du modèle candidat, à juger à l'œil.
Référence : run-004h (replay 70/30) ~10 / 36
Chaque batch : 70 % de chats QuickDraw (révision) + 30 % de Sketchy (nouveauté), 20 époques. Premier vrai progrès après les 3 échecs.
s1 — replay 50/50 ~10 / 36
Doubler la dose de Sketchy par batch. Verdict : n'apporte rien de plus que le 70/30 — la pression ne remplace pas le temps.
s2 — replay 70/30 × 60 époques ~16 / 36 · meilleur
Même recette que la référence mais l'absorption dure 3× plus longtemps. Verdict : le meilleur résultat Sketchy à ce jour — c'est la durée qui paie.
s3 — homéopathique ~1 / 36
100 % Sketchy mais learning rate divisé par 5 (1e-5) et 15 époques : la retouche minimale. Verdict : même en touchant à peine les poids, le bain 100 % Sketchy détruit la génération. Sans replay, rien ne marche.
s4 — gel partiel ~3 / 36
Embeddings et 6 premiers blocs figés — seuls les 2 derniers apprennent (l'esprit de LoRA). Verdict : le gel ne protège pas non plus — les 2 derniers blocs suffisent à faire dérailler le plan d'ensemble.
s5 — épuré + replay ~20 / 36 · 🏆 gagnant
Les chats Sketchy débarrassés de leurs hachures (136 tokens au lieu de 218 — la structure sans la texture) + replay 70/30, 30 époques. Verdict : la meilleure planche Sketchy de la journée. Rendre les données cibles apprenables a plus rapporté que toutes les astuces d'entraînement réunies.
s6 — épuré × 60 époques ~15 / 36
L'épreuve de vérité : combiner les deux gagnants (données épurées de s5 + durée de s2). Verdict : pas mieux que s5 — la loss plafonne dès l'époque ~25. Avec 497 exemples, le modèle a déjà tout extrait : le plafond n'est plus la recette, c'est la quantité de données du style cible.
006a — 52 000 Sketchy, de zéro ~3 / 36 chats
Le duel des 52 000 : un modèle neuf pré-entraîné sur les 125 catégories Sketchy épurées, puis spécialisé chats. Le plancher de quantité est enfoncé — fini les gribouillis du 004f, il dessine de vraies silhouettes animales au trait fluide… mais n'importe quel animal : cochons d'Inde, phoques, gorilles. Sans token de catégorie, il ne sait pas qu'on veut un chat. Et sa loss chats (2,89) est la meilleure du projet — 5e preuve que la loss ne dit pas tout.
006b — bain de style 52 000 + recette s5 ~15 / 36
Le champion 004d absorbe le style sur les 52 000 croquis (replay 50/50), puis spécialisation chats. Verdict : le style général progresse (loss tout-Sketchy 3,38 → 3,10), zéro oubli QuickDraw… mais pas plus de chats réussis que s5. L'expert reconverti garde ses habitudes QuickDraw.
006c — le conditionnement : 125 tokens de catégorie ~4 / 36 chats · mais…
Le correctif du 006a : 125 nouveaux tokens de vocabulaire, un par catégorie, placés en tête de séquence — notre premier vrai « prompt → dessin ». Verdict double : les chats restent faibles (~4/36, 52 000 croquis ÷ 125 catégories = ~420 chats, trop peu par catégorie)… mais le conditionnement MARCHE : sur la planche des 125 objets, la pomme est une pomme, la porte est une porte, le zèbre a quatre pattes. Le token de tête pilote bien ce que le modèle dessine.
🎓 Les deux enseignements du labo
1. Le replay est non négociable : les deux stratégies sans révision QuickDraw (s3, s4) ont échoué quelle que soit la précaution — LR minuscule ou blocs gelés. L'oubli catastrophique ne se contourne pas, il se compense avec des données.
2. Les données battent encore les astuces : le seul vrai bond (s5) vient d'avoir simplifié les données cibles pour les rendre apprenables — pas d'un réglage d'entraînement. C'est la 3e fois que ce projet le vérifie (filtre qualité du 004d, plancher de quantité du 004f, épuration du s5).