287 entreprises ont troqué leurs LLM et économisé 75 %

Une entreprise de distribution dépensait 32 000 dollars par mois (environ 29 000 euros) pour ses services d’intelligence artificielle. Après un unique changement technique, ce montant est tombé à 2 200 dollars (environ 2 000 euros). Pas en un an. Pas après une refonte complète de l’infrastructure. En remplaçant un grand modèle de langage généraliste par un modèle spécialisé de 7 milliards de paramètres, ajusté sur ses propres données.

Ce cas n’est pas isolé. Sur 287 études de cas documentées, les entreprises qui troquent leurs LLM généralistes pour des modèles de langage compacts (SLM, pour small language models) rapportent des réductions de coûts comprises entre 75 % et 99 %, avec des performances équivalentes, voire supérieures.

La migration silencieuse que les chiffres confirment

Selon Gartner, d’ici 2027, les organisations déploieront des modèles d’IA spécialisés à un volume trois fois supérieur à celui des grands modèles généralistes. Cette projection semble déjà prudente au regard des tendances actuelles.

Les chiffres sont sans appel pour les fournisseurs de LLM. Traiter un million de conversations via un grand modèle coûte entre 15 000 et 75 000 dollars (soit 14 000 à 69 000 euros environ). La même charge de travail sur un SLM auto-hébergé revient entre 150 et 800 dollars (140 à 740 euros). Il ne s’agit pas d’une amélioration marginale : c’est un effondrement structurel des coûts opérationnels de l’IA.

L’entreprise Checkr, spécialisée dans la vérification d’antécédents, a ajusté un modèle Llama-3-8B qui surpasse GPT-4 en étant 30 fois plus rapide et 5 fois moins cher. Chez NVIDIA, un modèle ajusté de 8 milliards de paramètres a dépassé leurs propres modèles de 70 et 340 milliards sur des tâches de revue de code. Un modèle Phi-3 de 3,8 milliards de paramètres a atteint 96 % de précision sur la classification de titres financiers, là où GPT-4o plafonnait à 80 %.

Ce ne sont pas des exceptions. C’est le schéma dominant.

Pourquoi les modèles compacts l’emportent sur les tâches spécialisées

L’intuition selon laquelle un modèle plus grand est nécessairement plus performant s’effondre dès que l’on restreint le périmètre de la tâche. Une étude académique comparant cinq SLM à trois LLM (des modèles 100 à 300 fois plus volumineux) a révélé un écart moyen de performance de seulement 2 %, statistiquement non significatif. Sur certaines métriques comme le rappel (recall), les modèles compacts obtenaient même de meilleurs résultats : 0,96 contre 0,90 pour les grands modèles.

Les chercheurs en ont conclu que les caractéristiques des données d’entraînement comptent davantage que la taille du modèle. En termes concrets : un modèle de 7 milliards de paramètres entraîné sur les données réelles de votre entreprise comprend mieux votre domaine qu’un modèle à mille milliards de paramètres qui a parcouru tout l’internet sans jamais rencontrer votre cas d’usage spécifique.

C’est précisément la raison pour laquelle de nombreuses entreprises n’obtiennent aucun retour sur investissement de l’IA : elles misent sur les modèles les plus imposants. Or, seules 6 % des entreprises tirent réellement profit de l’IA, et ce sont généralement celles qui associent le modèle de bonne taille à chaque tâche.

Le schéma hybride qui fonctionne en pratique

La stratégie gagnante ne consiste pas à remplacer chaque LLM par un SLM. Elle consiste à diriger 80 % des requêtes prévisibles vers des modèles compacts, rapides et économiques, en ne faisant appel aux grands modèles que pour les 20 % de cas réellement complexes.

Un constructeur automobile a ajusté le modèle Phi-3 pour le contrôle qualité, réduisant le temps d’inspection de 87 % (de 15 minutes à 2 minutes) tout en atteignant 94 % de précision, ce qui représente une économie annuelle d’environ 1,2 million d’euros. Un réseau de 50 médecins a déployé Llama 3.2 en local pour la documentation clinique, diminuant le temps de rédaction de 67 % et récupérant l’équivalent de 3,5 millions d’euros en revenus.

Le seuil de rentabilité pour l’auto-hébergement est plus bas que la plupart des équipes ne le supposent : environ 8 000 conversations par jour ou 460 euros mensuels de dépenses API. Des cartes graphiques grand public à environ 1 850 euros peuvent faire tourner des modèles de 24 à 32 milliards de paramètres et s’amortissent en trois mois.

Ce que vos concurrents ont déjà compris

L’inférence IA sur site est passée de 12 % des déploiements en 2023 à 55 % en 2025, soit une multiplication par 4,6. Ce basculement ne relève pas uniquement de la protection des données (même si c’est un facteur, particulièrement en Europe avec le RGPD). Il s’agit d’entreprises qui construisent des solutions IA sur mesure pour une fraction du coût des alternatives dépendantes d’API.

Les entreprises qui se sont précipitées dans l’IA sans stratégie le regrettent aujourd’hui. Celles qui réussissent n’utilisent pas le modèle le plus puissant disponible. Elles utilisent le plus petit modèle capable de faire le travail, ajusté sur 200 à 500 exemples annotés, déployé sur du matériel qu’elles possèdent.

Votre facture mensuelle d’IA à 69 000 euros n’est pas un signe de sophistication. C’est le signe que personne n’a demandé si un modèle 50 fois plus petit pouvait accomplir le même travail. Pour 287 entreprises, la réponse était oui.

---

Pour aller plus loin :

• Le code arrive plus vite, la faille aussi
• Votre SaaS facture encore par utilisateur. Le travail non