Dimensionner une IA locale
Quelle mémoire et quel matériel pour faire tourner un modèle dans vos locaux ? Tout se passe dans votre navigateur : aucune IA n’est appelée et rien n’est envoyé.
La simulation
Simulation
Dimensionner une IA locale
Choisissez la taille d’un modèle à faire tourner chez vous. Essayez au moins trois tailles qui demandent un matériel différent.
Mémoire nécessaire : 5,0 à 5,5 Go
Dont 4,2 Go pour les poids du modèle (quantification 4 bits), plus 20 à 30 % de marge pour le contexte.
Matériel typique : Portable récent avec 16 Go de RAM
- Portable récent avec 16 Go de RAM
- GPU de 12 à 16 Go, ou Mac à mémoire unifiée suffisante
- GPU de 24 Go, ou Mac avec 32 Go et plus
- Serveur ou station dédiée
Ordre de grandeur relevé mi-2026 dans des comparatifs tiers (sources secondaires) : à vérifier sur votre propre matériel. La vitesse de réponse n’est pas estimée ici.
Pour comprendre
La leçon Dimensionner et sécuriser une IA locale explique ce que vous venez d’observer, avec ses sources.