Formation : Les IA à travers les API

Module 1 — Principe d'un appel API à un LLM

• Comprendre le modèle requête / réponse : envoi d'un prompt, réception d'une complétion via HTTP.
• Structurer une requête avec la clé API, le modèle choisi, un prompt système et un prompt utilisateur.
• Distinguer les modes synchrone et streaming (réponse diffusée token par token).
• Situer les principaux fournisseurs (OpenAI, Anthropic) et l'existence de passerelles multi-modèles.
• Comprendre le rôle des paramètres comme la température et la longueur maximale de sortie.

Module 2 — Clés API et sécurité

• Générer et stocker une clé API dans des variables d'environnement, jamais en dur dans le code.
• Ne jamais exposer la clé côté client ou dans un dépôt Git public.
• Mettre en place une rotation des clés et des quotas par projet ou par environnement.
• Restreindre les accès et surveiller l'usage pour détecter toute fuite de clé.
• Distinguer les environnements de test et de production avec des clés séparées.

Module 3 — Tokens et coûts

• Comprendre la notion de token comme unité de découpage du texte facturée à l'appel.
• Différencier la facturation des tokens d'entrée et des tokens de sortie, à tarifs distincts.
• Anticiper la variabilité : deux requêtes similaires peuvent avoir des coûts très différents.
• Exploiter le cache de prompt pour réduire le coût des contextes répétés.
• Noter qu'un changement de tokenizer entre versions de modèle peut modifier le nombre de tokens facturés.

Module 4 — Erreurs et limites de débit

• Comprendre les rate limits exprimés en requêtes par minute (RPM) et tokens par minute (TPM).
• Gérer le code 429 (trop de requêtes) qui peut consommer un slot de quota même en cas de rejet.
• Implémenter un backoff exponentiel et respecter l'en-tête Retry-After fourni par l'API.
• Traiter les erreurs serveur (500, 503) avec relance et journalisation.
• Prévoir des délais et files d'attente pour lisser la charge et rester sous les limites.

Module 5 — Intégration applicative

• Encapsuler les appels dans une couche de service isolant l'application du fournisseur.
• Gérer les timeouts, la relance et les réponses partielles en streaming côté application.
• Mettre en place une observabilité : logs, métriques de coût, taux d'erreur.
• Prévoir un repli (fallback) vers un autre modèle ou une réponse dégradée en cas d'indisponibilité.
• Valider et assainir les sorties avant affichage ou stockage pour la robustesse et la sécurité.