IA locale : trois machines, quatre métiers

Faire tourner une IA sur son propre matériel n’est plus un projet de spécialiste : c’est un choix d’équipement, comparable à l’achat d’un serveur de fichiers. Nous avons vu pourquoi une IA interne a du sens pour une organisation romande ; voici trois configurations concrètes, avec leurs prix réels et ce qu’elles font tourner.

Une précision d’époque d’abord : 2026 est l’année de la pénurie de mémoire. NVIDIA a relevé le prix du DGX Spark de 3 999 à 4 699 dollars en février, Apple a renchéri le Mac mini M4 Pro en juin, et l’option 512 Go du Mac Studio a été retirée du catalogue. La mémoire est le nerf de la guerre ; dimensionner juste compte double.

La règle avant les machines

Deux chiffres décident de tout :

• La quantité de mémoire : elle fixe la taille du modèle qui tient. Un modèle de 8 milliards de paramètres quantifié occupe 5 à 6 Go ; un modèle de 70 milliards, 40 à 45 Go.
• La bande passante mémoire : elle fixe la vitesse de génération. C’est elle qui sépare une réponse en trois secondes d’une réponse en trente.

Le reste (processeur, stockage, réseau) suit. On choisit donc le modèle d’après le métier, puis la machine d’après le modèle.

Configuration 1 : l’armoire réseau (commune, fiduciaire)

• Machine : Mac mini M4 Pro, 64 Go de mémoire unifiée
• Prix : comptez 2 000 à 2 500 francs en configuration 64 Go, après la hausse de juin 2026
• Fait tourner : les modèles de classe 30B quantifiés, à 12 à 18 tokens par seconde : largement assez pour un assistant documentaire
• Sa place : une étagère de l’armoire réseau existante ; silencieux, sobre, aucun local dédié

Le métier : pour une administration communale, un assistant qui répond à partir des procès-verbaux, des règlements et des directives, en citant ses sources, et la transcription locale des séances. Pour une fiduciaire, l’extraction de données de factures et la préparation d’écritures. Dans les deux cas, des données de citoyens ou de clients qui ne quittent jamais l’armoire.

Les limites : pas d’ajustement fin sérieux, et un service confortable pour une équipe de bureau, pas pour un guichet public.

Configuration 2 : le local technique (site solaire, bâtiment intelligent)

• Machine : NVIDIA DGX Spark, 128 Go de mémoire unifiée (variantes Acer, ASUS, Dell et MSI un peu moins chères)
• Prix : 4 699 dollars en édition NVIDIA depuis février 2026
• Fait tourner : des modèles jusqu’à la classe 70B, voire 120B quantifiés, et l’ajustement fin de petits modèles ; écosystème CUDA complet
• Sa place : le local technique, à côté de la GTB ou du SCADA

Le métier : sur un site de production solaire ou dans un bâtiment instrumenté, la machine lit les données des onduleurs, des compteurs et de la GTB, rédige les rapports d’exploitation, décrit les anomalies en français et prépare les interventions de maintenance. Les données de production restent sur le site, et l’installation fonctionne même quand la liaison internet tombe.

Les limites : une bande passante mémoire modeste pour sa classe (la génération est correcte, pas spectaculaire) et un écosystème ARM encore jeune pour certains outils.

Configuration 3 : le petit rack (institut, laboratoire, enseignement)

• Machine : station ou serveur 4U avec une RTX PRO 6000 Blackwell : 96 Go de GDDR7 ECC, 1 792 Go/s de bande passante
• Prix : la carte seule se négocie entre 8 000 et 9 400 dollars au prix de rue (le tarif catalogue NVIDIA a grimpé à 13 250 dollars) ; machine complète autour de 12 000 à 15 000 francs selon le châssis
• Fait tourner : un modèle 70B en FP8 sur une seule carte, avec de la marge pour servir plusieurs utilisateurs ; environ 1,8 fois plus rapide qu’une RTX 5090 sur un modèle 30B
• Sa place : un petit rack ventilé ; la carte consomme jusqu’à 600 W

Le métier : un assistant de recherche qui interroge des corpus d’articles et d’archives en citant ses sources, l’ajustement fin de modèles ouverts sur un domaine (y compris Apertus, le modèle des écoles polytechniques suisses), et un service partagé pour tout un institut. Pour les équipes qui n’ont pas besoin de CUDA, le Mac Studio M3 Ultra (96 Go, 819 Go/s, dès 5 299 dollars) est l’alternative silencieuse.

Louer d’abord, acheter ensuite

Aucune de ces machines ne devrait s’acheter sur une intuition. La même carte Blackwell se loue au cloud, autour de 3,36 dollars l’heure sur AWS, moins chez des courtiers spécialisés : un pilote de deux semaines coûte quelques centaines de francs et répond à la seule question qui compte, celle du gain réel. Ensuite seulement, on achète, et le matériel s’amortit en mois. Et si le pilote doit rester souverain sans acheter de matériel : les modèles frontière servis depuis les régions cloud de Zurich, par réseau privé, couvrent l’intervalle (voir nos services).

Trois armoires différentes, une même idée : l’IA à l’échelle du métier, sur du matériel que vous possédez, avec des données qui ne partent nulle part.