Une série pour chausser d’autres lunettes
Ce matin, dans mon bureau, j’ai lancé une IA hébergée sur mon mini PC Linux. Oui, pas une IA via une connexion internet ! Pas de données qui partent ailleurs, et ça tourne !
Et je me suis posé une question : pourquoi j’avais l’impression que j’étais face à une montagne ?
Il y a deux ans, je m’étais renseignée sur ce sujet, sur l’IA hébergée localement. J’avais regardé ce qu’il fallait faire, les outils disponibles, les prérequis techniques. Et j’avais conclu que ce n’était pas pour moi. C’était trop compliqué. Je n’avais pas tort à l’époque.
Mais depuis, j’avais continué à voir une montagne, sans vérifier si elle était toujours là.
Ce qui a changé, ce n’est pas moi 🙂
Entre-temps, des milliers de personnes ont travaillé sur des outils open source qui ont transformé l’accès aux modèles d’IA. Les modèles eux-mêmes sont de plus en plus performants et légers. Et les interfaces aussi, qui permettent de les installer et de les utiliser. Ce travail collectif, souvent invisible, mérite un coup de chapeau.
Et j’ai appris à travailler avec Claude et Gemini pour qu’ils augmentent mes capacités. Résultat : ce matin, ils m’ont aidé à préparer le projet. Puis j’ai installé plusieurs modèles d’IA sur mon mini PC Ubuntu en moins d’une heure. Un PC d’expérimentation que j’ai dans mon bureau, à 200-300€, 16 Go de RAM. Rien d’extraordinaire.
La montagne était encore là dans ma tête. Dès que j’ai vraiment commencé, ce n’était plus que des pentes à grimper.
Ce qu’on ne sait pas, tant qu’on n’a pas commencé
Il y a quelque chose d’intéressant dans ce moment où on démarre enfin un projet qu’on repoussait. Avant de commencer, on voit un bloc. Un ensemble indistinct, difficile à évaluer, difficile à découper. On ne sait pas ce qu’on ne sait pas, et c’est inconfortable, voire effrayant. Alors souvent on reporte.
Dès qu’on s’y met, le bloc se fragmente. Des morceaux apparaissent, concrets, attrapables. On commence à voir ce qui est simple, ce qui est moins simple, ce qui viendra plus tard.
Ce matin, j’en ai fait l’expérience directement.
Ce que j’ai appris en faisant
J’ai testé quatre petits modèles de langage, soumis aux même questionnaire : quatre façons différentes de répondre, quatre comportements distincts, quatre niveaux de qualité en français.
Je sais maintenant avec quel modèle commencer : qwen2.5, un modèle de 3 milliards de paramètres, s’en sort mieux en français que des modèles plus grands. Au passage j’ai été vraiment surprise par Mistral : développé en France, il est le seul à avoir fait une faute de grammaire en français.
Je sais que mon mini PC tient la route, sur des sujets pas trop lourds. C’est une limite concrète, utile à connaître.
Et surtout, je sais où je vais ensuite. Explorer des cas d’usage concrets pour mon activité : des documents internes, des reformulations, des questions sur des fichiers sensibles qui n’ont rien à faire sur un serveur cloud. La suite du projet existe maintenant, là où il n’y avait qu’un brouillard. Je vais également essayer d’installer des modèles plus puissants sur un ordinateur bien plus sophistiqué, auquel j’aurai accès durant l’été.
Alors, une bonne idée pour une TPE/PME ?
Honnêtement : ça dépend.
Ce que l’IA locale fait bien, c’est la confidentialité. Les données restent sur votre réseau, rien ne sort. Pour un cabinet d’avocat, un bureau d’études, une entreprise qui traite des informations sensibles sur ses clients ou ses process, c’est important.
Ce qu’elle fait moins bien, c’est la qualité des réponses. Les modèles qui tournent sur un PC standard sont plus petits, donc moins puissants que Claude, Gemini ou ChatGPT. Sur des tâches complexes, la différence se voit.
La vraie question n’est donc pas « est-ce que je peux installer ça » mais « qu’est-ce que j’en fais concrètement ». Répondre à des emails, reformuler des documents, poser des questions sur des fichiers internes, oui. Remplacer un outil cloud performant sur des tâches complexes, non, pas encore.
La montagne est devenue une pente
Ce n’est pas une promenade. Il y a encore beaucoup à explorer, des usages à tester, des protocoles à construire. Mais je sais maintenant que c’est faisable, et je sais par où commencer.
C’est peut-être ça, la chose la plus utile qu’on puisse faire face à un projet qui nous intimide : arrêter de le regarder de loin, et aller voir ce qu’il est vraiment.
Si vous vous posez des questions sur une IA locale pour votre activité, on peut en parler.
Va voir.