nanoGPT — train GPT models from scratch with minimal code
Walkthrough complet du nanoGPT d'Andrej Karpathy : architecture, pipeline d'entraînement, hyperparamètres, échantillonnage, fine-tuning et guide de scaling
- Quoi
- Walkthrough complet du nanoGPT d'Andrej Karpathy : architecture, pipeline d'entraînement, hyperparamètres, échantillonnage, fine-tuning et guide de scaling
- Coût
- Gratuit
- Prérequis
- Python avec PyTorch et accès GPU pour un vrai entraînement — le skill est un guide d'entraînement que l'agent suit, pas un logiciel
- Installation
- Copiez le prompt d’installation ci-dessous dans votre Muse — votre agent fait le reste.
Sélectionné par Skill Harbor — le skill nanoGPT de @davila7 : un walkthrough complet du nanoGPT d'Andrej Karpathy pour entraîner des modèles GPT from scratch avec un minimum de code. Couvre l'architecture (blocs transformer, attention, embeddings), le pipeline d'entraînement, le guide des hyperparamètres, l'échantillonnage et la génération, le fine-tuning, et comment scaler — avec des commandes pratiques et les comportements attendus. Bémols honnêtes : entraîner de vrais modèles demande du GPU sérieux — le coût 💳 est dans le hardware, pas dans le skill ; le guide suit le repo nanoGPT, qui évolue — vérifie les commandes contre le repo actuel. Licence MIT. Skill Harbor ne vérifie jamais le code, examinez-le vous-même avant usage. Découvert via skills.sh.
Version :
Installation
Prérequis : Python avec PyTorch et accès GPU pour un vrai entraînement — le skill est un guide d'entraînement que l'agent suit, pas un logiciel Installe-moi « nanoGPT — entraîner des modèles GPT from scratch avec un minimum de code ». Il donne à mon agent le walkthrough nanoGPT de @davila7 : architecture (blocs transformer, attention, embeddings), pipeline d'entraînement, guide des hyperparamètres, échantillonnage et génération, fine-tuning, et guide de scaling avec des commandes pratiques. NOTE : un vrai entraînement demande du GPU sérieux — à budgétiser séparément ; le repo nanoGPT évolue, donc vérifie les commandes contre le repo actuel. Licence MIT. Dépôt : https://github.com/davila7/claude-code-templates/blob/main/cli-tool/components/skills/ai-research/model-architecture-nanogpt/SKILL.md 1. Récupère le fichier SKILL.md (et les fichiers d'aide éventuels) depuis le chemin du dépôt dans un dossier temporaire et résume en une ou deux phrases ce qu'il fait. 2. Vérification de sécurité : examine le SKILL.md et les scripts pour tout contenu suspect (appels réseau inattendus, commandes shell, collecte d'identifiants). Ce dépôt ne devrait contenir aucun secret en dur. Vérifie que c'est bien le cas ici ; STOP sur tout signal d'alerte et dis-le-moi. 3. Installe-le comme skill : copie le SKILL.md et ses fichiers d'aide dans le répertoire des skills de l'agent, dans un dossier nommé « nanogpt ». 4. Vérifie sans appels réseau : frontmatter valide, fichiers en place. 5. Indique ce qui a été installé, où, et ce qu'il me reste à faire moi-même (p. ex. mettre en place l'environnement GPU et dire à l'agent s'il doit entraîner from scratch ou fine-tuner ; rien d'autre — c'est un guide d'entraînement). GitHub est optionnel : si j'ai un compte GitHub ou la CLI gh, tu peux l'utiliser ; sinon l'accès public suffit. Ne jamais l'exiger sauf s'il figure dans les prérequis ci-dessus. Règles : ne touche à rien en dehors du dossier temporaire et de la cible d'installation. Si quelque chose semble anormal, arrête-toi et demande-moi.
Questions
Comment installer une création ?
Chaque fiche produit contient un prompt d’installation à copier-coller. Collez-le dans votre Muse et il installe la création pour vous — sans configuration manuelle.
Où va mon argent ?
Directement au vendeur. Skill Harbor ne traite jamais les paiements : le paiement se fait sur la page du vendeur, généralement via Stripe.
Que signifie le ✓ à côté du nom d’un créateur ?
Il signifie que nous avons confirmé l’identité de la personne derrière la fiche. Il ne dit rien sur le code lui-même — vérifiez toujours une création avant de l’installer.