Un agent IA passe l’essentiel de son temps à prendre de petites décisions : quel outil appeler, quelle équipe alerter, cette demande est-elle autorisée ? Confier chacune d’elles à un grand modèle de langage (LLM) coûte cher et ralentit tout. Début octobre 2026, Cloudflare et AWS ont publié chacun un modèle open source pensé pour ce travail précis : les modèles de décision.
Un modèle de décision, c’est quoi ?
Un LLM génère du texte. Un modèle de décision, lui, classe : face à un message de support client, il identifie l’urgence et l’équipe concernée, puis renvoie une réponse typée accompagnée de probabilités, pas un paragraphe. C’est la définition que donne Cloudflare dans son annonce de Clef. On peut le voir comme un aiguilleur : il ne rédige rien, il oriente vite et de façon mesurable.
Deux premiers acteurs, deux philosophies
Cloudflare propose Clef (construit sur un modèle Qwen de 27 milliards de paramètres) et Clef-flash (9 milliards), tous deux sous licence Apache 2.0, disponibles sur Hugging Face, la plateforme de partage de modèles. Selon Cloudflare, la latence médiane sur 43 benchmarks est de 38,8 ms pour Clef-flash et 209,3 ms pour Clef, contre 524,1 ms pour Jev, un modèle concurrent.
AWS, via son laboratoire Strands Labs, mise sur la légèreté avec Strands Decider 2B : 2 milliards de paramètres, une latence médiane d’environ 115 ms sur une carte graphique Nvidia RTX 3090 et d’environ 153 ms sur un MacBook M3. Il tourne donc en local, et les données d’entraînement et les scripts sont publiés.
Où ils servent en entreprise
Les cas d’usage cités par les deux éditeurs sont très concrets : triage de tickets de support, classification de contenus (Trust & Safety), évaluation de bots, routage de modèles, sélection d’outils, garde-fous et classification de politiques internes. Chez Cloudflare, une tâche de classification de domaines prend 2,2 s avec Clef contre 4,7 s avec GPT-OSS-120B. AWS précise que le modèle peut vérifier un appel d’outil avant son exécution.
L’idée prolonge ce que nous disions des petits modèles de langage pour vos agents IA : réserver le grand modèle au raisonnement complexe et confier le reste à des modèles spécialisés, plus rapides et moins coûteux.
Bonnes pratiques et limites
Premier réflexe : repérer dans vos agents les décisions répétitives (routage, tri, autorisation) et mesurer leur coût actuel en LLM. Deuxième : utiliser les probabilités renvoyées pour déclencher une escalade humaine quand la confiance est faible. Troisième : mettre ces modèles en complément de vos garde-fous d’agents IA, pas à leur place.
Les limites sont réelles. Les chiffres cités sont ceux des éditeurs, mesurés sur leurs propres benchmarks : testez sur vos données. Et un modèle de décision ne remplace pas un contrôle d’identité ou de droits. Côté Cloudflare, le service d’entraînement par renforcement sur mesure est pour l’instant proposé en accompagnement direct, la version en libre-service étant annoncée pour plus tard.
À retenir pour les dirigeants
Le coût et la latence d’un agent se jouent souvent dans ses décisions les plus banales. Des modèles open source, déployables chez vous, rendent ces arbitrages plus rapides, moins chers et plus auditables, ce qui intéresse directement les entreprises soucieuses de souveraineté.
Vous voulez savoir quelles décisions de vos agents peuvent passer sur ce type de modèle ? Parlons de votre cas d’usage.