$ cat PRESENTATION.md
Tous vos outils de code branchés sur Albert
llm-proxy est une passerelle HTTP locale entre les harnais agentiques et l'API Albert d'Etalab. Elle répare les appels d'outils, adapte les requêtes, régule le quota et traduit le format Anthropic vers OpenAI. Elle couvre toute l'API Albert : conversation, vision, OCR, audio, embeddings et reclassement.
trace --aller-retour
- INFOSi l'agent parle Anthropic ou l'API Responses, le proxy traduit sa requête en OpenAI.
- WARNSi le quota de la minute est plein, le proxy retient la requête le temps qu'une place se libère.
- WARNSi l'appel d'un outil est en XML, le proxy le corrige.
- OKL'agent reçoit une réponse qu'il sait lire.
features --list
Votre agent est câblé en une ligne
Le proxy écoute sur 127.0.0.1:8080. Tout agent qui parle OpenAI, Anthropic ou l'API Responses s'y branche, sans clé Albert à gérer.
La traduction Anthropic vers OpenAI, dans les deux sens
Le proxy traduit une requête Anthropic vers OpenAI avant de l'envoyer à Albert. La réponse fait le chemin inverse, sans que l'agent le remarque.
Le quota tient, même sous rafale
Le régulateur de débit compte ce qu'Albert a déjà reçu dans la minute, prédit le coût du tour suivant et ne retient que ce qu'il faut. Mesuré sur la même conversation : 8 refus sans lui, 0 avec.
fenêtre pleine avant l'envoi la requête attend la place fenêtre pleine après la réponse la fin de réponse attend, ping toutes les 15 s rafale d'un agent la cadence est lissée, pause maximale d'une quinzaine de secondes 429 malgré tout reprise après réouverture, 6 s au moins quota du jour le modèle est mis en pause jusqu'à minuit UTC
La réponse arrive en balises XML au lieu d'un appel d'outil
"content": "<tool_call><function=write_file>..." "tool_calls": [] // vide "finish_reason": "stop" // devrait être tool_calls
Le proxy lit les balises, génère un identifiant et reconstruit la structure JSON attendue par le harnais.
"content": null "tool_calls": [{ "id": "call_a3f9", "function": { "name": "write_file", ... } }] "finish_reason": "tool_calls"
Albert est strict sur les spécifications
Le proxy adapte chaque requête avant transmission, dans les deux sens, pour qu'un harnais écrit pour OpenAI ou Anthropic fonctionne sans modification.
Toute l'API Albert, plus une supervision
Ce que le proxy a vu passer
La vue direct montre ce que le régulateur retient à l'instant, la saturation du quota par minute et son histogramme sur la dernière demi-heure, les appels par agent et par modèle. La vue bilan dit ce que le proxy a évité depuis son installation, ses cumuls survivent au redémarrage. Elle n'accepte que l'interface locale.
./llm-proxy
INFO proxy::http: en écoute sur 127.0.0.1:8080 INFO proxy::albert: modèles du compte découverts
Chaque archive contient l'exécutable et la documentation de la version. Il reste à poser votre clé Albert dans un fichier .env.
Écrit par Jérôme Bousquié de Université Toulouse Capitole et Olivier Booklage de académie de Bordeaux. Code sous Licence Ouverte 2.0 (Etalab).