J’ai installé une IA 100 % privée sur un vieux PC : voici ce qu’elle sait vraiment faire
Sur l’étagère d’un atelier de réparation, entre deux cartons de pièces détachées, dormait un PC de bureau sorti d’un parc informatique professionnel plusieurs années plus tôt. Processeur quatre coeurs, seize gigaoctets de mémoire vive, une vielle carte graphique MSI 1070 avec 8 go de Vram. Rien sur le papier, ne laissait deviner qu’une intelligence artificielle capable de rédiger, résumer, traduire et même écrire du code puisse un jour y tourner. C’est pourtant cette machine, remise en service en une soirée, qui a servi de terrain d’expérimentation à une question que se posent de plus en plus de professionnels de l’informatique et de la téléphonie mobile : peut-on installer une IA générative entièrement privée LLM local comme ChatGPT, sans jamais passer par le cloud, sur du matériel qu’on aurait autrement envoyé à la benne ?
Le point de départ, une machine ordinaire et un problème très concret
Le déclencheur de cette expérience n’était pas technique, mais commercial. Un revendeur informatique, sollicité par un cabinet comptable pour équiper ses employés d’un assistant de rédaction, s’est heurté à une objection revenue plusieurs fois dans la bouche de ses clients professionnels : hors de question d’envoyer les factures et autre documents comptable avec la clientèle, les brouillons de courriers ou les données bancaires vers un service cloud IA LLM américain, aussi performant soit-il. Cette méfiance, largement partagée dans les petites entreprises françaises depuis les vagues de rançongiciels qui ont frappé cabinets d’expertise et commerces de proximité ces dernières années, pousse aujourd’hui de nombreux réparateurs et intégrateurs à chercher une alternative qui ne quitte jamais les murs de l’entreprise. Certains de ces professionnels proposent déjà à leurs clients des solutions de connectivité en marque blanche eSIM, un domaine où la question de la souveraineté des données se pose avec la même acuité, et où l’argument du contrôle total sur ses propres informations pèse déjà lourd dans la décision d’achat.
Remettre un serveur au travail plutôt qu’à la benne et en faire une IA Local de type LLM souveraine
Avant même de parler d’intelligence artificielle, l’expérience posait une question plus large, celle du réemploi. Dans un atelier de réparation, les tours et portables jugés trop anciens pour être revendus s’accumulent souvent dans un coin, faute de repreneur ou de filière de recyclage évidente. Leur remettre une utilité concrète, plutôt que de les envoyer au recyclage, change la logique économique du réemploi informatique : les PC, serveurs, carte graphique GPU amorti depuis longtemps, dont l’achat ne coûte donc plus rien à l’atelier, devient un poste de travail capable d’exécuter des tâches qui, il y a deux ans encore, exigeaient un abonnement mensuel à un service en ligne. Pour un professionnel qui gère déjà un flux constant de matériel usagé, cette perspective a de quoi séduire : elle transforme un stock dormant en argument commercial, sans investissement matériel supplémentaire au-delà de quelques heures de configuration.
Installer une IA locale : ce qu’il faut vraiment, et ce qui relève du mythe
L’installation elle-même a pris moins de temps que prévu. Le logiciel retenu, Ollama + AnythingLLM pour faire du RAG (analyse de documents et constitution) de base de donnée local IA, se télécharge et s’installe en une seule commande sur Windows comme sur Linux, et gère automatiquement le téléchargement du modèle ainsi que la détection du matériel disponible. Le choix du modèle a en revanche demandé davantage de réflexion. Sur un PC dépourvu de carte graphique dédiée, il est illusoire d’espérer faire tourner les plus gros modèles, ceux qui comptent plusieurs dizaines de milliards de paramètres : ils exigent une mémoire vidéo que ce genre de machine ne possède tout simplement pas. Le compromis retenu a été un modèle compact, de l’ordre de quelques milliards de paramètres, quantifié pour réduire son empreinte mémoire, capable de tourner sur les seize gigaoctets de mémoire vive disponibles sans jamais solliciter de processeur graphique. Ce format est aujourd’hui proposé par la plupart des éditeurs de modèles ouverts, qu’il s’agisse de Mistral, de Meta ou d’acteurs asiatiques comme Alibaba, et il est pensé dès sa conception pour ce type de configuration modeste, loin des superordinateurs qu’on imagine spontanément derrière une intelligence artificielle.
Ce que votre IA Local sait vraiment faire, au quotidien
Une fois le modèle chargé, les tests se sont enchaînés sur des tâches représentatives du travail quotidien d’un professionnel de l’informatique ou de la téléphonie mobile. Rédaction de courriers de relance client, résumé de fiches techniques constructeur, traduction de notices en anglais, génération de scripts de diagnostic simples : sur l’ensemble de ces usages, l’écart avec un service en ligne payant s’est révélé bien plus faible qu’attendu. Le modèle a également montré une aptitude correcte à répondre à des questions techniques précises sur la configuration de routeurs ou le paramétrage de cartes SIM professionnelles, à condition de lui fournir le contexte nécessaire dans la conversation. Pour les ateliers qui gèrent en parallèle un parc d’objets connectés, capteurs de température d’un local serveur, alarmes, compteurs, ce type d’assistant local peut aussi être relié à une plateforme IoT en marque blanche afin d’analyser localement les remontées de données sans jamais les faire transiter par un service tiers, un point qui pèse de plus en plus dans les appels d’offres publics et les cahiers des charges des grands comptes.
Au-delà des tâches purement rédactionnelles, l’expérience a aussi permis de tester un usage souvent négligé, celui de la transcription vocale locale. Un logiciel de reconnaissance vocale open source, installé en parallèle du modèle de langage, a converti sans connexion internet plusieurs comptes rendus d’intervention enregistrés au dictaphone en texte exploitable, avec un taux d’erreur tout à fait acceptable pour un usage professionnel courant. Pour un technicien qui passe sa journée entre deux interventions chez des clients, dicter un rapport plutôt que le taper redevient envisageable dès lors que l’enregistrement ne quitte jamais son propre matériel, une garantie qu’aucun service cloud grand public ne peut offrir de la même manière.
Les limites d’un vieux PC + GPU face à l’intelligence artificielle
Toute la mesure de l’expérience s’est cependant révélée dans la vitesse de réponse. Là où un service cloud génère plusieurs centaines de mots par seconde grâce à des cartes graphiques dédiées valant plusieurs milliers d’euros, le vieux PC de test a peiné à dépasser une dizaine de mots par seconde sur les tâches les plus longues, avec un bruit de ventilateur suffisamment sonore pour rappeler l’âge du matériel. Les documents très longs, les tableaux complexes ou les demandes nécessitant un raisonnement en plusieurs étapes ont également montré les limites d’un modèle de cette taille face aux versions les plus puissantes disponibles en ligne. Ces contraintes ne disqualifient toutefois pas l’approche : pour la majorité des tâches administratives et commerciales d’un petit atelier ou d’une boutique, la vitesse d’un serveur cloud n’est simplement pas nécessaire, et quelques secondes d’attente supplémentaires ne pèsent pas face à la garantie qu’aucune donnée ne sort du bâtiment.
Pourquoi la confidentialité d’une IA Local dans votre entreprise change la donne pour les professionnels du secteur
C’est précisément cet argument de la confidentialité qui explique l’intérêt croissant des réparateurs, intégrateurs et revendeurs pour ce type de solution. Le règlement général sur la protection des données impose des obligations strictes dès qu’un professionnel traite des informations clients, et l’actualité récente des cyberattaques par rançongiciel a rendu de nombreux gérants de boutiques méfiants envers tout service qui fait transiter leurs données à l’extérieur. Installer une IA locale sur du matériel déjà amorti devient alors un argument commercial à part entière, à proposer en complément d’une offre de maintenance ou de connectivité déjà existante. Plusieurs professionnels interrogés pendant la préparation de cet article évoquent d’ailleurs une logique similaire à celle qui les a poussés, ces dernières années, à diversifier leur activité vers la connectivité mobile : un opérateur MVNO francophone reconnu propose déjà ce type de solution clé en main aux revendeurs qui souhaitent devenir eux-mêmes opérateur mobile virtuel sans investir dans une infrastructure réseau. La même logique de service packagé, sans lourds investissements initiaux, semble aujourd’hui s’appliquer à l’intelligence artificielle locale.
Un vieux serveur, PC, carte graphique GPU une nouvelle vie = une IA Local LLM sécurisé
Au terme de cette expérience, le PC retrouvé au fond de l’atelier n’a pas vocation à remplacer les outils cloud les plus puissants du marché, ni à traiter des volumes massifs de requêtes. Il a en revanche démontré qu’une intelligence artificielle utile, réactive sur l’essentiel des tâches du quotidien et totalement étanche aux regards extérieurs, tient aujourd’hui dans une tour de sept ou huit ans d’âge, pour le prix d’une remise en service et de quelques heures de configuration. Pour les professionnels de l’informatique et de la téléphonie mobile en recherche de nouveaux services à proposer à leurs clients, la question n’est peut-être plus de savoir si l’IA locale est assez puissante, mais combien de PC oubliés, dans combien d’ateliers à travers la France, n’attendent qu’une seconde vie.
