La gateway IA : un point d'entrée pour tous les modèles

13 octobre 2026iallminfra

Contenu créé avec l'aide de l'IA

C’est l’expérimentation en cours chez alfa-safety : l’IA, mais pas la démo spectaculaire — la tuyauterie. On me pose la question sous mille formes (« l’IA, c’est quoi au bureau ? ») et la réponse courte tient en une image : un robinet unique, raccordé à plusieurs sources. Voici la version longue.

Le problème, avant même de choisir un modèle

Chaque idée d’usage de l’IA dans une petite entreprise commence avec les mêmes trois questions concrètes : où tourne le modèle, qui détient les clés d’API, et comment on saura si ça marche.

Sans réponse, ce qui arrive est prévisible : chaque équipe qui essaie un outil IA le branche à sa façon, les clés vivent dans des fichiers de configuration, et la facture du mois arrive sans qu’on ait pu la prévoir. Rien de cassé en apparence — juste un domaine qui s’assemble par petites copies, qu’on ne contrôle plus de nulle part. C’est un vide de la même espèce que celui qui avait poussé Toolbox : de l’artisanat là où il faut de l’industriel.

Une gateway, c’est quoi

Une gateway est un point d’entrée unique. Au lieu que chaque application appelle directement un fournisseur de modèles (OpenAI, Mistral, d’autres…), elle appelle une seule adresse — et cette adresse fait le tri : elle route vers le bon fournisseur, garde les clés en un seul endroit, et note qui a demandé quoi.

Le détail qui fait tout : le format. La gateway expose une API au format OpenAI — pas par préférence pour OpenAI, mais parce que ce dialecte est devenu le langage commun des fournisseurs de modèles. Une fois la gateway en face, une application écrite pour un modèle devient compatible avec tous ceux qui sont branchés derrière, sans réécriture.

Deux briques open source : LiteLLM / Bifrost

LiteLLM et Bifrost AI font le même métier : exposer un point d’entrée compatible OpenAI et router vers plusieurs fournisseurs. Le POC teste les deux — et c’est un choix de méthode : le livrable du banc d’essai n’est pas « on a choisi l’outil gagnant », c’est « on sait ce qui compte » : comment ça route, ce que ça note, ce que ça coûte à administrer. La brique peut changer plus tard sans que la décision en subisse.

Deux fournisseurs dès le POC

Branchés derrière la gateway dès le départ : OVH AI Endpoints et la Mistral API. Deux fournisseurs au stade POC, ce n’est pas du luxe — c’est ce qui permet de vérifier la promesse centrale : changer de fournisseur sans toucher à l’application. Si la bascule marche au POC, elle marchera en prod.

Ollama d’abord — le local comme atelier

L’expérience a même commencé avant la gateway, en local : Ollama et des modèles open-weights quantisés en GGUF. Le local a trois vertus pour entrer en matière : pas de coût par requête, pas de données qui sortent, et surtout on comprend ce qu’est un modèle — la latence, la taille mémoire, ce que change la quantification. Quand la gateway est arrivée, le local est devenu le premier « fournisseur » de la liste : même format, mêmes tests. La gateway sert ensuite de porte ouverte au cloud, là où il est utile — et pas ailleurs.

Un harness maison

Pour juger, un harness : un banc d’essai simple — des prompts figés, des réponses attendues, des latences mesurées. Pas de grand benchmark public ; des cas réels de la maison, rejouables à l’identique contre n’importe quel modèle branché derrière la gateway. C’est ce banc qui permet le cadrage : comparer deux modèles sur nos cas, c’est un tableau ; sans harness, c’est une impression.

Ce que ça a changé

Concrètement, brancher un usage IA veut maintenant dire : une URL, une clé, et une clé qui fait ce qu’elle doit — plutôt qu’un projet. Les comptes rendus du harness, eux, ont suffi pour cadrer les projets IA potentiels : quel cas essayer d’abord, avec quel modèle, et à quoi ça ressemble en coût.

Ce qui reste

C’est un POC, à l’interne — pas de chiffres publiés, pas de production. La suite : passer le banc d’essai de l’atelier au réel, et transformer le cadrage en plan. C’est aussi le premier pas concret de la trajectoire annoncée : MLOps et LLMOps — rendre l’IA reproductible, monitorable, industrialisable.