ChatGPT, Claude, Gemini, Mistral, modèles open source…
L’intelligence artificielle entre progressivement dans les outils des entreprises. Mais derrière une interface parfois très similaire se cachent des architectures radicalement différentes.
Une entreprise peut envoyer ses demandes vers un modèle hébergé dans le cloud, ou décider d’exécuter une intelligence artificielle directement sur son propre matériel ou son infrastructure privée.
C’est ce que l’on appelle généralement une IA locale ou auto-hébergée.
Alors quelle approche choisir ?
Il n’existe pas de réponse universelle.
La bonne solution dépend principalement des données manipulées, des performances attendues, du budget, du nombre d’utilisateurs et des compétences techniques disponibles.
Qu’appelle-t-on une IA dans le cloud ?
Dans une architecture cloud, le modèle d’intelligence artificielle fonctionne sur l’infrastructure d’un fournisseur.
L’utilisateur envoie une demande via une application ou une API, le modèle effectue le traitement à distance puis renvoie le résultat.
C’est le fonctionnement habituel de nombreux assistants IA accessibles en ligne.
L’avantage est évident : l’entreprise n’a pas besoin d’acheter plusieurs cartes graphiques ou de maintenir une infrastructure spécialisée.
Elle utilise simplement le service.
Le fournisseur se charge notamment :
- de l’infrastructure ;
- des mises à jour ;
- de la disponibilité du modèle ;
- de la capacité de calcul ;
- et généralement d’une grande partie de la sécurité de la plateforme.
Cette simplicité explique en grande partie le succès des services d’IA dans le cloud.
Et une IA locale ?
Une IA locale fonctionne au contraire sur une infrastructure contrôlée par l’entreprise.
Cela peut être :
un ordinateur puissant,
un serveur interne,
un serveur équipé de GPU,
un datacenter privé,
ou encore un cloud privé contrôlé par l’organisation.
Des outils comme Ollama permettent par exemple d’exécuter certains modèles directement sur une machine. Sa politique de confidentialité précise que, lorsqu’Ollama fonctionne localement, les prompts et réponses restent sur l’appareil et ne sont pas accessibles à Ollama.
De son côté, Mistral propose également aux entreprises différentes architectures, allant du service cloud au déploiement sur site ou dans un cloud privé, avec la possibilité de conserver les données dans l’infrastructure de l’organisation.
L’entreprise récupère ainsi davantage de contrôle.
Mais elle récupère également… davantage de responsabilités.
Premier critère : la confidentialité des données
C’est généralement le premier argument avancé en faveur de l’IA locale.
Imaginons une entreprise qui souhaite analyser :
- des contrats clients ;
- des données financières ;
- du code source propriétaire ;
- des documents RH ;
- des dossiers médicaux ;
- des procédures internes ;
- ou des informations couvertes par le secret professionnel.
Envoyer automatiquement l’ensemble de ces informations vers n’importe quel service d’IA grand public serait évidemment une mauvaise idée.
La CNIL recommande notamment de sensibiliser les collaborateurs à ce qu’ils transmettent aux outils d’IA et rappelle qu’un utilisateur ne doit communiquer que les informations qu’il est autorisé à partager. Elle déconseille notamment l’introduction d’informations confidentielles dans un service grand public lorsqu’elles sont couvertes par le secret des affaires ou d’autres obligations.
Cela ne signifie toutefois pas que cloud = données utilisées pour entraîner l’IA.
Les offres professionnelles doivent être distinguées des services grand public.
OpenAI indique par exemple que les données provenant de ChatGPT Business, Enterprise et de sa plateforme API ne sont pas utilisées par défaut pour entraîner ses modèles.
Certains clients API éligibles peuvent également utiliser des configurations de Zero Data Retention, dans lesquelles les requêtes et réponses ne sont pas conservées après leur traitement.
La vraie question n’est donc pas simplement :
« Mes données vont-elles dans le cloud ? »
mais plutôt :
« Où vont mes données, combien de temps sont-elles conservées, qui peut y accéder et sous quelles conditions contractuelles ? »
L’IA locale donne davantage de contrôle
Avec une architecture réellement locale, il est possible de conserver l’intégralité du traitement à l’intérieur du système d’information.
Pour certaines organisations, c’est un avantage considérable.
Un cabinet pourrait par exemple disposer d’un assistant capable de rechercher dans des milliers de documents internes sans transmettre ces documents à une infrastructure externe.
Un industriel pourrait analyser des données techniques confidentielles.
Une équipe de développement pourrait travailler sur du code propriétaire.
Une entreprise pourrait également connecter son ERP ou son CRM à une IA interne.
Le modèle peut alors être intégré beaucoup plus profondément au système d’information.
Mais attention à une idée reçue :
local ne veut pas automatiquement dire sécurisé.
Un serveur IA mal configuré, accessible depuis Internet avec un mauvais contrôle d’accès, peut être beaucoup plus dangereux qu’une plateforme cloud professionnelle correctement sécurisée.
L’entreprise devient elle-même responsable de la sécurisation de la machine, des mises à jour, des utilisateurs, des sauvegardes et du réseau.
Deuxième critère : les performances
Sur ce terrain, les services cloud conservent un avantage important.
Les modèles les plus puissants nécessitent énormément de mémoire et de puissance de calcul.
Un service cloud peut répartir cette charge sur des infrastructures comprenant de nombreux GPU haut de gamme.
Une petite entreprise peut ainsi bénéficier d’une puissance qu’elle n’aurait jamais intérêt à acheter elle-même.
En local, les contraintes matérielles apparaissent rapidement.
Un petit modèle peut fonctionner confortablement sur un ordinateur récent.
Mais plus le modèle devient volumineux, plus les besoins augmentent :
RAM, VRAM, puissance GPU, consommation électrique et stockage.
Une entreprise doit donc se demander si elle a réellement besoin du modèle le plus puissant.
Pour classer des documents, extraire des informations, résumer des textes ou interroger une documentation interne, un modèle plus petit peut parfois être largement suffisant.
L’objectif n’est pas de posséder « la plus grosse IA ».
L’objectif est d’avoir un modèle suffisamment performant pour le besoin métier.
Troisième critère : le coût
Là encore, la réponse dépend énormément de l’utilisation.
Avec le cloud
Le coût est généralement lié :
- à un abonnement ;
- au nombre d’utilisateurs ;
- ou au volume de données traité via une API.
Pour une petite équipe utilisant occasionnellement une IA, cette solution peut être très économique.
L’entreprise paie pour ce qu’elle consomme sans investir dans une infrastructure dédiée.
Avec une IA locale
Le calcul est différent.
Il faut potentiellement acheter :
- un serveur ;
- une ou plusieurs cartes graphiques ;
- du stockage ;
- une alimentation adaptée ;
- de la mémoire ;
- puis assurer la maintenance.
L’investissement initial est donc plus important.
Mais pour un usage intensif et permanent, l’équation économique peut évoluer.
Une entreprise qui exécute des millions de traitements pourrait parfois rentabiliser une infrastructure interne.
Il faut donc comparer le coût total de possession, et pas simplement le prix d’un abonnement mensuel.
Quatrième critère : la disponibilité
L’IA locale possède un avantage intéressant : elle peut fonctionner même lorsque la connexion Internet est indisponible.
Dans certains environnements industriels, mobiles ou isolés, cela peut être important.
Mais cela signifie également que la disponibilité dépend désormais du matériel interne.
Si le serveur tombe en panne, l’IA tombe avec lui.
Les services cloud offrent généralement beaucoup plus facilement :
redondance, montée en charge et haute disponibilité.
Une petite entreprise doit donc décider si elle souhaite gérer elle-même cette résilience.
Cinquième critère : la maintenance
C’est probablement l’un des aspects les plus souvent oubliés.
Installer un modèle local est relativement simple.
Maintenir un service IA professionnel en production l’est beaucoup moins.
Il faut notamment gérer :
- les mises à jour des modèles ;
- les pilotes GPU ;
- les dépendances ;
- la supervision ;
- la sécurité ;
- les sauvegardes ;
- les droits utilisateurs ;
- les performances ;
- la journalisation.
Avec une solution cloud entièrement gérée, une grande partie de ce travail disparaît.
L’entreprise échange alors une partie de son contrôle contre davantage de simplicité.
Et si la meilleure solution était hybride ?
Dans de nombreux cas, opposer totalement local et cloud n’a finalement pas beaucoup de sens.
Une architecture hybride peut permettre d’utiliser le meilleur des deux mondes.
Par exemple :
IA locale :
documents confidentiels, données clients internes, recherche documentaire, opérations simples et répétitives.
IA cloud :
raisonnement complexe, recherche avancée, besoins ponctuels nécessitant un modèle particulièrement puissant.
Une application peut même choisir automatiquement le modèle à utiliser selon le niveau de confidentialité ou la complexité de la tâche.
Un document interne confidentiel reste local.
Une demande générique peut utiliser une API externe.
Cette approche nécessite davantage d’intégration technique, mais elle permet d’éviter un choix trop radical.
La souveraineté devient également un sujet
Au-delà de la confidentialité immédiate des données se pose aussi la question de la dépendance technologique.
Une entreprise qui construit tous ses processus autour d’un seul fournisseur peut devenir très dépendante :
de ses tarifs,
de ses modèles,
de ses API,
de ses conditions commerciales,
et de ses décisions techniques.
Les solutions auto-hébergées et les modèles ouverts peuvent réduire cette dépendance.
Mistral met notamment en avant la possibilité de déployer ses solutions sur site, en cloud privé ou dans différents environnements afin de conserver davantage de contrôle sur l’infrastructure et la localisation des données.
Pour certaines entreprises, cette notion de souveraineté numérique devient progressivement un critère au même titre que le prix ou les performances.
Quelle solution choisir selon son entreprise ?
Une petite entreprise qui commence à utiliser l’IA n’a probablement pas besoin d’acheter immédiatement un serveur équipé de plusieurs GPU.
Une solution cloud professionnelle correctement configurée permettra généralement de commencer rapidement.
À l’inverse, une entreprise qui manipule quotidiennement des données sensibles ou souhaite intégrer profondément l’IA dans ses outils métier pourra avoir intérêt à étudier une architecture locale ou hybride.
On peut résumer le choix ainsi :
| Besoin | Solution généralement adaptée |
|---|---|
| Démarrer rapidement | ☁️ Cloud |
| Petit nombre d’utilisateurs | ☁️ Cloud |
| Accès aux modèles les plus puissants | ☁️ Cloud |
| Pas d’équipe IT dédiée | ☁️ Cloud |
| Données hautement confidentielles | 🖥️ Local / privé |
| Fonctionnement hors connexion | 🖥️ Local |
| Très gros volume de traitements répétitifs | 🖥️ Local à étudier |
| Contrôle maximal de l’infrastructure | 🖥️ Local |
| Besoins variables selon les données | 🔄 Hybride |
| Recherche d’un équilibre confidentialité/performances | 🔄 Hybride |
Avant de choisir une IA, commencez par le besoin
Le choix technologique devrait finalement arriver après plusieurs questions simples.
Quelles données l’IA va-t-elle traiter ?
Qui doit pouvoir l’utiliser ?
Quelles actions pourra-t-elle effectuer ?
Quel niveau de confidentialité est nécessaire ?
Combien de requêtes seront effectuées ?
L’entreprise possède-t-elle les compétences nécessaires pour maintenir une infrastructure ?
Et surtout :
quel problème concret souhaite-t-on résoudre ?
Installer un modèle local uniquement parce que « les données restent chez nous » n’est pas nécessairement pertinent.
À l’inverse, envoyer l’ensemble des connaissances internes de l’entreprise vers différents outils cloud simplement parce qu’ils sont pratiques n’est pas davantage une stratégie.
La bonne architecture est celle qui correspond au niveau de risque et au cas d’usage réel.
Conclusion
L’IA locale et l’IA dans le cloud ne sont pas réellement deux technologies concurrentes.
Ce sont deux façons différentes d’utiliser l’intelligence artificielle.
Le cloud privilégie généralement la simplicité, les performances et la rapidité de déploiement.
Le local privilégie davantage le contrôle, la confidentialité et l’indépendance.
Et pour beaucoup d’entreprises, l’avenir sera probablement hybride.
L’enjeu n’est donc pas de choisir systématiquement l’un ou l’autre, mais de construire une architecture dans laquelle chaque donnée et chaque traitement sont envoyés vers l’environnement approprié.
APT Informa
APT Informa accompagne les TPE, PME et indépendants dans l’étude et l’intégration de solutions d’intelligence artificielle adaptées à leurs contraintes : solutions cloud, modèles locaux, infrastructure, automatisation et intégration aux outils métier.
L’objectif n’est pas d’ajouter de l’IA partout.
C’est de choisir où elle apporte réellement de la valeur, et dans quelles conditions elle peut être utilisée correctement.