Un LLM local est un grand modèle de langage exécuté sur l’ordinateur ou le serveur de l’entreprise, plutôt que dans le cloud d’un fournisseur. Il est pertinent lorsque l’entreprise travaille sur des données qu’elle ne souhaite pas envoyer à l’extérieur, utilise l’IA quotidiennement et dispose dans son équipe d’une personne capable de maintenir cet environnement. Si aucune de ces conditions n’est remplie, le cloud et des outils prêts à l’emploi par abonnement suffisent.

De plus en plus d’entreprises qui déploient l’intelligence artificielle combinent les deux approches : elles traitent localement les données sensibles et les tâches répétitives, et utilisent le cloud pour le reste. Cet article explique comment calculer les coûts, ce qu’un modèle local change — et ne change pas — pour la sécurité des données, ainsi que par où commencer.

Qu’est-ce qu’un LLM local ?

Un LLM local (en anglais local large language model) est un modèle de langage dont les fichiers et les calculs sont hébergés sur les équipements de l’entreprise : ordinateur portable, ordinateur de bureau, station de travail ou serveur (ce que l’on appelle l’IA sur site). Lorsqu’une entreprise exécute un LLM localement, les requêtes, documents et réponses ne sont pas transmis à une API externe.

Il s’agit le plus souvent de modèles à poids ouverts (en anglais open-weight), par exemple des familles Llama, Mistral, Qwen ou Gemma. Ils peuvent être téléchargés et exécutés sans frais pour chaque requête. Les conditions de licence varient selon les modèles ; il est donc recommandé de les vérifier avant toute utilisation commerciale.

Un modèle local peut fonctionner entièrement hors ligne. Une IA sans cloud ni accès à Internet est importante là où la sécurité est essentielle, par exemple dans les sites de production ou les environnements informatiques isolés. La notion plus large d’« IA locale » couvre également les modèles de reconnaissance d’images ou de la parole, ainsi que de génération graphique.

Cloud, abonnement ou équipement propre : comparaison

Aucune option ne l’emporte sur tous les plans. La décision dépend des données traitées par l’entreprise et de l’intensité de son utilisation de l’IA.

CritèreCloud (API)AbonnementÉquipement propre
Où vont les donnéesSur les serveurs du fournisseurChez le fournisseur, conformément au contratElles restent dans l’entreprise
Modèle de coûtsFacturation à l’usage (tokens)Forfait fixe par utilisateurAchat de matériel, puis électricité et maintenance
Qualité des modèlesLes modèles les plus performantsModèles sélectionnés par le fournisseurModèles à poids ouverts, y compris les grands modèles
Intégration aux outilsVia API, nécessite du développementPrête à l’emploi, dans les applications de l’entrepriseEn interne ou avec un partenaire
Mise à l’échelleImmédiatePar l’achat de licences supplémentairesLimitée par la puissance du matériel
Fonctionnement sans InternetNonNonOui
Qui assure la maintenance de l’environnement ?Le fournisseurLe fournisseurLe service informatique de l’entreprise ou un partenaire

Les modèles à poids ouverts diffèrent par leur taille. Au sein d’une même famille, les variantes plus grandes offrent souvent de meilleurs résultats, mais le seul nombre de paramètres ne détermine pas la qualité. Les modèles plus petits suffisent pour le travail quotidien. Les grands modèles, exécutés sur des ordinateurs équipés de NVIDIA DGX Spark, des stations de travail ou des serveurs dotés de cartes GPU, se rapprochent des meilleurs modèles cloud pour certaines tâches métier.

Disposer de son propre matériel réduit la dépendance à un fournisseur externe, mais la sécurité des applications et de l’infrastructure devient alors de la responsabilité de l’entreprise.

Combien coûte un LLM local et quand est-il rentable ?

Un LLM local a le plus de chances d’être rentable en cas d’utilisation élevée et régulière. Pour quelques requêtes par semaine, il est généralement plus difficile de justifier économiquement l’achat de matériel que le recours au cloud.

Les coûts du cloud et des abonnements augmentent avec l’usage : chaque nouveau membre de l’équipe, chaque test d’agent et chaque recalcul d’une base documentaire y contribue. Le coût d’un équipement propre est principalement engagé au départ, puis les requêtes supplémentaires génèrent surtout des coûts d’électricité et, dans le cas des serveurs, de refroidissement. L’usure du matériel, la maintenance et le temps de l’administrateur sont des coûts fixes pris en compte dans le calcul ci-dessous.

Comment calculer

  1. Additionnez les dépenses annuelles d’IA dans le cloud : licences par utilisateur, frais d’API, coûts des tests et des environnements de développement. Ajoutez ce que l’entreprise prévoit pour l’année à venir.
  2. Évaluez lesquelles de ces tâches peuvent être transférées vers un modèle local et calculez ce qu’elles coûtent actuellement dans le cloud. Les tâches nécessitant les modèles les plus performants resteront dans le cloud.
  3. Ajoutez le coût de votre propre environnement : matériel, énergie, refroidissement, temps de l’administrateur et assistance de maintenance.
  4. Répartissez le prix du matériel sur sa durée d’utilisation, par exemple 36 mois, puis comparez le coût mensuel de votre propre environnement avec le coût mensuel des tâches que vous transférerez depuis le cloud (point 2). S’il est inférieur et que la qualité des réponses est suffisante, un LLM local est rentable.

Les principaux facteurs qui influencent le résultat

  • Utilisation. Un équipement qui reste inutilisé génère des coûts sans bénéfices. Un agent qui travaille plusieurs heures par jour ou une équipe qui teste des modèles au quotidien réduit le plus fortement le délai de retour sur investissement.
  • Nombre d’utilisateurs. Un seul équipement suffisamment performant peut servir toute une équipe, selon le modèle, le nombre de requêtes simultanées et le mode de déploiement.
  • Expérimentations. Dans le cloud, chaque essai, comme une nouvelle version d’un prompt ou la refonte de l’index documentaire, a un coût. En local, il est possible de tester sans compteur.
  • Compétences. Si personne dans l’entreprise ne peut maintenir l’environnement, il faut ajouter le coût d’un partenaire.

Sécurité des données : ce que le LLM local résout, et ce qu’il ne résout pas

Le modèle local élimine un risque : l’envoi des données à un fournisseur externe. Il ne dispense toutefois pas du respect du RGPD ni de l’ AI Act.

Ce que l’entreprise y gagne

  • Les documents, le code source, les données financières et les données clients ne quittent pas l’infrastructure de l’entreprise. C’est particulièrement important dans les secteurs soumis au secret professionnel ou bancaire, par exemple les cabinets juridiques, les établissements de santé et les banques.
  • L’entreprise décide elle-même où les journaux de requêtes sont stockés et pendant combien de temps.
  • Les collaborateurs ont moins de raisons de recourir à des outils d’IA privés non approuvés, dont les règles de stockage et d’utilisation des données peuvent ne pas être conformes à la politique de sécurité de l’entreprise.
  • Le modèle peut fonctionner sur un réseau entièrement isolé d’Internet.

Ce qu’un déploiement local ne résout pas

  • RGPD. Si la solution traite des données personnelles, une base légale pour le traitement, un contrôle des accès aux données personnelles et la possibilité de les supprimer restent nécessaires. Dans le cadre d’un déploiement local, il faut également mettre en place soi-même la journalisation des accès.
  • AI Act. Les obligations dépendent du rôle de l’entreprise et de l’usage de l’IA, et non de l’emplacement où le modèle s’exécute. À partir du 2 août 2026, des obligations de transparence s’appliquent notamment, telles que l’information indiquant que l’interlocuteur est un système d’IA et l’étiquetage des contenus de type deepfake. Les exigences applicables aux systèmes à haut risque ont été reportées à décembre 2027 et à août 2028.
  • Autorisations et agents d’IA. Le modèle doit respecter les mêmes autorisations que les autres systèmes de l’entreprise ; sinon, il affichera à chaque utilisateur tous les documents auxquels il a lui-même accès. Il est également recommandé de limiter les autorisations des agents d’IA qui ouvrent eux-mêmes des fichiers et exécutent des outils, car ils peuvent exécuter une instruction dissimulée dans le contenu d’un document (ce qu’on appelle une injection de prompt).
  • Mises à jour. Les modèles, les bibliothèques et le système doivent être mis à jour comme tout autre logiciel.

Comment les entreprises utilisent les modèles locaux

Les modèles LLM locaux sont particulièrement adaptés aux tâches qui impliquent des données confidentielles et un volume élevé de requêtes.

Assistant basé sur les documents de l’entreprise (RAG)

Le modèle répond à des questions formulées en langage naturel à partir de procédures, de contrats, de manuels et d’une base de connaissances. Les documents ne sont pas transmis à un service externe. La réponse peut indiquer le document source, ce qui permet au collaborateur de vérifier immédiatement l’origine de l’information.

Agents d’IA

Les programmes qui analysent des fichiers, préparent des rapports ou traitent des demandes peuvent fonctionner pendant des heures sans frais pour chaque requête. En local, les limites d’API d’un fournisseur externe ne s’appliquent pas non plus. Les performances restent toutefois limitées par les ressources matérielles ; il est donc préférable d’exécuter les tâches longues en dehors des heures de travail de l’équipe, lorsque toute la puissance matérielle est disponible.

Travail avec le code

L’assistant de développement travaille sur du code source qui ne peut pas quitter l’entreprise. Il prend en charge les tâches répétitives : il suggère des fragments de code, prépare des tests et de la documentation. Le développeur continue de concevoir les solutions, de vérifier chaque proposition de l’IA et de décider de ce qui est intégré au projet ; il peut consacrer le temps gagné à des tâches plus complexes. Le modèle peut également être adapté au code de l’entreprise, par exemple à ses bibliothèques internes et à ses conventions de codage, afin que les suggestions soient conformes aux pratiques de l’équipe.

Traitement des documents

Classification, résumé et extraction de données à partir de factures, de commandes ou de réclamations. Avec des milliers de documents par mois, ce sont les tâches pour lesquelles les frais liés aux tokens dans le cloud augmentent le plus rapidement.

Ajustement des modèles (fine-tuning)

Adaptation du modèle au langage du secteur, aux noms de produits et aux processus internes à partir des propres données de l’entreprise. Les données d’entraînement, souvent parmi les ressources de connaissance les plus précieuses de l’entreprise, restent sur son matériel.

Image et vidéo

Reconnaissance d’images pour le contrôle qualité, génération de visuels et de contenus vidéo sans envoyer les projets à l’extérieur. Sur une ligne de production, le traitement local réduit également le temps de réponse, car l’image n’a pas besoin d’être envoyée au cloud puis renvoyée.

Ces solutions sont principalement utilisées par les software houses, les services R&D, les entreprises financières, l’industrie, le e-commerce et les organisations ayant des exigences élevées en matière de sécurité.

Quand le cloud reste pertinent et comment combiner les deux approches

Le cloud est adapté lorsque l’accès à des modèles spécifiques, une mise à l’échelle rapide ou une intégration prête à l’emploi avec les applications du quotidien sont essentiels :

  • les tâches pour lesquelles des modèles spécifiques disponibles dans le cloud sont les plus adaptés, par exemple les analyses complexes et le raisonnement en plusieurs étapes,
  • une utilisation occasionnelle qui ne justifie pas l’achat de matériel,
  • les pics soudains de demande, par exemple le traitement ponctuel d’une vaste archive,
  • les assistants intégrés à une suite bureautique, tels que Microsoft 365 Copilot, qui travaillent sur les e-mails, le calendrier et les fichiers dans le cadre des autorisations existantes.

Modèle hybride

Un modèle hybride répartit les tâches selon le type de données et le niveau de qualité requis :

  1. Données sensibles (code, documents financiers, données clients) : LLM local.
  2. Tâches répétitives à grande échelle (classification, résumés, agents fonctionnant 24 h/24) : LLM local.
  3. Travail bureautique quotidien dans les applications de l’entreprise : assistant sur abonnement.
  4. Tâches les plus complexes sur des données non sensibles: modèles cloud les plus performants.

Le modèle hybride est une option, non une solution toute faite. La bonne répartition des tâches dépend du type de données, de l’échelle d’utilisation et des compétences de l’équipe ; il est donc utile de la réévaluer régulièrement.

Quel matériel utiliser pour exécuter un LLM local ?

La sélection ci-dessous est principalement composée de matériel reposant sur les solutions NVIDIA. CUDA est l’un des écosystèmes d’accélération IA les mieux pris en charge. Des outils populaires tels que PyTorch, Ollama et llama.cpp prennent en charge les GPU NVIDIA, bien que beaucoup soient également compatibles avec d’autres plateformes. NVIDIA propose aussi du matériel adapté à toutes les échelles, du portable au serveur, avec un écosystème d’outils cohérent.

Les ordinateurs portables NVIDIA RTX Spark™ constituent une nouveauté dans l’offre de Senetic. Ils associent une carte graphique NVIDIA Blackwell RTX et un processeur NVIDIA Grace dans une même puce, avec des performances pouvant atteindre 1 PFLOP pour les calculs d’IA (FP4), et fonctionnent sous Windows 11. Leur principal atout est la mémoire unifiée, de 24 à 128 GB, utilisée simultanément par le processeur et la carte graphique. C’est elle qui détermine la taille du modèle pouvant être exécuté localement. Dans la configuration la plus puissante, l’ordinateur portable peut exécuter des modèles allant jusqu’à 120 milliards de paramètres avec un contexte allant jusqu’à 1 millions de tokens.

Les modèles les plus fins ont une épaisseur de 14 mm et, selon NVIDIA, leurs batteries assurent une autonomie d’une journée entière. L’autonomie annoncée ne signifie toutefois pas une journée complète sous charge intensive avec un grand modèle, car elle dépend du mode d’utilisation de l’appareil. Les applications fonctionnent localement et le cloud peut être utilisé lorsque nécessaire, ce qui s’intègre bien dans un modèle hybride. L’offre Senetic comprend les modèles Microsoft Surface Laptop Ultra, ASUS ProArt P16, HP OmniBook Ultra 16, Lenovo Yoga Pro 9n et MSI Prestige N16 Flip AI+.

Le choix du matériel dépend avant tout de la mémoire, car le modèle doit y tenir. Nous avons présenté les exigences et les paramètres dans notre guide sur le choix d’un ordinateur pour l’IA, ainsi que les niveaux d’investissement dans l’infrastructure serveur dans l’article sur les types de serveurs pour l’IA.

Le type de matériel doit être adapté à l’échelle et à la nature des tâches :

Cas d’usageType de matérielOù chercher dans l’offre
Une seule personne, y compris en déplacementOrdinateur portable NVIDIA RTX Spark (jusqu’à 128 GB)Ordinateurs portables pour l’IA
Environnement IA partagé pour une équipeOrdinateur avec NVIDIA DGX SparkOrdinateurs pour l’IA
Ajustement fin et modèles les plus volumineuxStation de travail avec NVIDIA DGX StationStations de travail pour l’IA
Plusieurs utilisateurs simultanésServeur avec cartes GPUServeurs pour l’IA
Extension du matériel existantCarte GPU pour serveur ou station de travailCartes GPU pour l’IA

Par où commencer ?

  1. Choisissez un seul cas d’usage, par exemple un assistant basé sur les documents d’un seul service.
  2. Vérifiez quelles données le modèle traitera et qui doit y avoir accès.
  3. Testez plusieurs modèles open-weight sur des tâches réelles, par exemple avec des outils tels qu’Ollama ou LM Studio, et comparez les résultats avec ceux d’un modèle cloud.
  4. Estimez le nombre de requêtes quotidiennes générées par ce cas d’usage et calculez les coûts selon les quatre étapes décrites plus haut.
  5. Vérifiez la compatibilité des logiciels avec le matériel. Les ordinateurs avec NVIDIA DGX Spark et les ordinateurs portables NVIDIA RTX Spark utilisent des processeurs reposant sur l’architecture Arm ; toutes les applications ne pourront donc pas y fonctionner sans adaptation.
  6. Sur la base des tests et des calculs, choisissez le type et le nombre d’appareils adaptés à la taille des modèles et au nombre d’utilisateurs.

Le retour sur investissement dans du matériel pour l’IA locale dépend avant tout de son taux d’utilisation. Il est donc utile d’établir une liste de cas d’usage précis avant l’achat.

Questions fréquentes

Un LLM local fonctionne-t-il sans Internet ?

Oui. Une fois le modèle et les outils téléchargés, vous pouvez l’utiliser entièrement hors ligne. Une connexion n’est nécessaire que pour les mises à jour, le téléchargement de nouveaux modèles et d’éventuelles intégrations avec des services externes.

Un modèle local est-il aussi performant que les modèles cloud ?

Pour les tâches quotidiennes telles que le résumé, la classification ou les réponses fondées sur des documents, les modèles open-weight sont souvent suffisants. Pour les tâches plus complexes, le résultat dépend de la taille du modèle : les grands modèles open-weight, exécutés sur des stations de travail ou des serveurs, se rapprochent des meilleurs modèles cloud. Il est donc préférable de les comparer sur vos propres tâches.

L’IA locale est-elle automatiquement conforme au RGPD ?

Non. Un modèle local limite les transferts de données vers l’extérieur, mais l’entreprise reste responsable de la base légale du traitement, de l’accès aux données et de leur suppression.

De quelle quantité de mémoire un LLM local a-t-il besoin ?

Cela dépend de la taille du modèle et de son niveau de compression (quantification). Avec une quantification à 4 bits, chaque milliard de paramètres occupe environ 0,5–0,6 GB de mémoire, auxquels il faut ajouter une marge pour le contexte conversationnel et le système. En pratique, un modèle de 8 milliards de paramètres nécessite environ 5–6 GB, un modèle de 70 milliards environ 40 GB, et un modèle de 200 milliards plus de 100 GB. Sans compression, les besoins sont environ quatre fois plus élevés.

Un LLM local peut-il remplacer Microsoft 365 Copilot ?

Non, ce sont des outils conçus pour des usages différents. Copilot fonctionne avec les e-mails, les fichiers et le calendrier dans Microsoft 365. Un modèle local est adapté aux données qui ne doivent pas être envoyées dans le cloud, ainsi qu’aux propres applications d’IA de l’entreprise. De nombreuses organisations utilisent les deux.

Un projet exécuté sur du matériel local peut-il être transféré vers un centre de données ou le cloud ?

Oui, s’il utilise les mêmes outils, par exemple CUDA et des conteneurs. Il faut toutefois tenir compte de l’architecture du processeur : NVIDIA DGX Spark et les ordinateurs portables NVIDIA RTX Spark fonctionnent sur Arm, tandis que de nombreux serveurs reposent sur x86. Certaines bibliothèques et images de conteneurs peuvent donc nécessiter une version adaptée à l’autre architecture.

Partager.
Aleksandra Gronostaj

Content Specialist Près de dix ans dans l'IT, dont la majeure partie passée à expliquer la technologie de façon à faciliter les décisions d'achat. Je crée des contenus qui aident les entreprises à choisir le bon matériel et les bons logiciels, sans payer trop cher ni avancer à l'aveugle. Je trouve mon équilibre sur un tapis de yoga, en montagne et à VTT.