Module de formation
M4 — LLM & génération d'images locale sur GPU
Faire tourner un LLM et Stable Diffusion sur GPU local : quantification, contexte, débit, LoRA, pipeline d'identité.
Durée : 1 à 2 jours (selon matériel)
- Objectifs : faire tourner un LLM sur une carte 12–24 GB (llama.cpp et dérivés), comprendre quantification, contexte et débit (tok/s), et en faire un service local avec API compatible OpenAI ; générer des images avec Stable Diffusion en gardant le contrôle (LoRA, post-traitement) — avec, si le temps le permet, un pipeline d’identité qui conserve un visage d’une photo dans l’image générée.
- Public : ingénieurs ML/IA, data scientists, équipes infra qui ont du matériel (ou qui savent dimensionner) et des contraintes de confidentialité.
- Pré-requis : Linux de base, Docker, un GPU NVIDIA (ou accès à une machine distante ; le stage peut se faire sur du matériel fourni).
- Livrables / résultats mesurables :
- un serveur LLM local mesuré (débit tok/s et contexte retenus chiffrés dans le compte-rendu de la session — on apprend à mesurer, pas à croire les benchmarks des autres) ;
- une image générée en pipeline local + un script reproductible ;
- dimensionnement écrit : quel GPU, quelle quantification, quel modèle pour leur cas (document reparté par binôme).