Formation : Kimi (Moonshot AI)

Module 1 — Positionnement de Kimi et de Moonshot AI

• Situer Kimi, l'assistant et la série de modèles développés par le laboratoire chinois Moonshot AI.
• Comprendre l'architecture Kimi K2 : modèle Mixture-of-Experts d'environ 1 000 milliards (1T) de paramètres totaux.
• Retenir le principe des paramètres actifs : environ 32B activés par passe malgré la taille totale.
• Identifier le positionnement de Kimi sur les très grands contextes et les tâches agentiques et de code.
• Distinguer les variantes de la série K2 et leurs orientations (généraliste, code, raisonnement).

Module 2 — Le très grand contexte comme atout central

• Comprendre la fenêtre de contexte de 256k tokens offerte par les modèles Kimi K2.
• Exploiter ce contexte pour traiter des documents volumineux, des bases de code et de longues conversations.
• Concevoir des cas d'usage : synthèse de rapports longs, analyse documentaire et sessions multi-tours.
• Structurer les prompts et l'organisation des documents fournis pour tirer parti du grand contexte.
• Mesurer l'impact du volume de contexte sur le coût en tokens et la latence.

Module 3 — Intégration via API

• Accéder à l'API de Kimi via la plateforme Moonshot AI (platform.moonshot.ai).
• Exploiter une API compatible OpenAI (et Anthropic) pour faciliter l'intégration.
• Gérer l'authentification, les clés d'API et les paramètres de génération dans une application.
• Distinguer les modes « thinking » et « non-thinking » selon la complexité de la tâche.
• Mettre en place journalisation, suivi des tokens et gestion des quotas.

Module 4 — Exécution ouverte et hébergeurs tiers

• Repérer la disponibilité des poids ouverts de Kimi K2 sur GitHub et Hugging Face.
• Comprendre que la taille du modèle exige une infrastructure GPU importante pour un hébergement complet.
• Utiliser des hébergeurs tiers comme OpenRouter pour accéder aux modèles sans les héberger soi-même.
• Arbitrer entre API officielle, hébergeur tiers et auto-hébergement selon les besoins.
• Anticiper le cycle de vie des modèles et l'arrivée régulière de nouvelles versions.

Module 5 — Comparaison, coûts et bonnes pratiques

• Comparer Kimi aux autres modèles ouverts (Llama, Qwen, DeepSeek) sur contexte, code et coût.
• Évaluer le rapport coût/performance selon le volume de tokens et la longueur de contexte utilisée.
• Mettre en place une évaluation de la qualité avant mise en production.
• Traiter la confidentialité, la sécurité et la conformité RGPD, notamment la localisation des données.
• Définir une veille structurée pour suivre l'évolution rapide de la série de modèles.