NVIDIA fait tenir un gros modèle d'IA ouvert sur une seule carte graphique de PC

24 Go. C'est la mémoire d'une carte graphique haut de gamme grand public, et c'est là que NVIDIA fait tenir un modèle d'IA ouvert de 74 milliards de paramètres, Nemotron 3.5 Bolt 74B-A9B. Le fabricant a publié le 15 octobre une nouvelle famille de modèles ouverts, Nemotron 3.5. Elle vise les agents, c'est-à-dire des assistants qui enchaînent eux-mêmes des actions comme chercher sur le Web, écrire du code ou utiliser un terminal.

Deux modèles sont disponibles dès maintenant : Nemotron 3.5 Super VL (120 milliards de paramètres, il comprend aussi les images) et Nemotron 3.5 Bolt 74B-A9B, conçu pour fonctionner sur un poste de travail. Un troisième, Bolt E4B, qui tient dans 4 Go, est annoncé pour le 23 octobre. Reste une question que ce lancement ne tranche pas : ces modèles sont-ils aussi bons que NVIDIA l'affirme ?

Comment faire tenir un gros modèle sur un PC

Bolt 74B compte 74 milliards de paramètres, dont environ 9 milliards actifs à chaque étape (une architecture dite « à mélange d'experts »). NVIDIA a quantifié nativement ses experts sur 2 bits, puis utilisé une distillation tenant compte de cette quantification pour en préserver la précision. Résultat : il tient dans 24 Go de mémoire. Selon sa fiche Hugging Face, il accepte jusqu'à 256 000 tokens de contexte et prend en charge le français, même si l'anglais et le code restent ses langues principales.

Il est compatible avec les principaux outils d'exécution locale : llama.cpp, Ollama, LM Studio, Unsloth et vLLM. NVIDIA le met en avant pour ses ordinateurs portables RTX Spark, attendus le 16 octobre. Il fonctionne aussi sur les PC GeForce RTX et les stations DGX Spark.

Une licence ouverte et des données publiées

Bolt 74B est diffusé sous licence OpenMDW-1.1, qui autorise l'usage commercial selon la fiche du modèle. NVIDIA publie aussi des jeux de données d'entraînement et ses « recettes ». Pour Super VL, l'éditeur annonce environ 26 000 milliards de tokens de pré-entraînement. Super VL est disponible sur Hugging Face, OpenRouter et ModelScope, et sous forme de microservice NVIDIA NIM ; Bolt 74B est proposé sur Hugging Face. Autre modèle ouvert attendu ce mois-ci : Mistral Large 4, dont Mistral AI publiera les poids le 27 octobre.

Des performances encore à vérifier

Revenons à la question de départ. Les chiffres de performance viennent de NVIDIA. L'éditeur présente Bolt 74B comme le premier modèle ouvert de sa catégorie sur PinchBench et le deuxième sur BrowseComp. Il affirme que Super VL est environ cinq fois plus rapide que le meilleur concurrent de sa catégorie, en s'appuyant pour cette vitesse sur un graphique d'Artificial Analysis. Le 15 octobre au soir, nous n'avons trouvé aucune évaluation indépendante de Bolt.

La fiche de NVIDIA elle-même nuance le tableau. Elle compare Bolt à Qwen3.6-35B-A3B et à Gemma 4 26B-A4B, et ces deux modèles le devancent sur certaines lignes, dont PinchBench pour Qwen3.6-35B-A3B (88,07 contre 87,82).

Ce qu'il faut retenir :

• Pour une entreprise qui ne veut pas envoyer ses données dans le cloud, faire tourner un agent de cette taille sur un seul poste devient envisageable.
• La compression sur 2 bits peut dégrader certaines tâches : testez le modèle sur vos propres cas d'usage avant de le déployer.
• Un agent local qui exécute des commandes doit rester cloisonné (conteneur, droits limités) : il reste exposé à l'injection de prompt comme n'importe quel agent.
• Selon sa fiche, la collecte des données d'entraînement de Bolt s'arrête au 24 février 2026, et celle des données de post-entraînement en mai 2026.