Formation : Les risques des IA génératives : prévention

Module 1 — Hallucinations et fiabilité des réponses

• Définir les hallucinations : réponses erronées mais formulées avec assurance, sans base factuelle.
• Comprendre leurs causes : nature probabiliste des modèles, données d'entraînement, absence de sources.
• Mesurer l'impact professionnel : décisions erronées, désinformation, perte de crédibilité.
• Adopter des méthodes de vérification des sources et de recoupement des informations.
• Systématiser la relecture humaine des contenus générés avant toute diffusion.

Module 2 — Confidentialité et conformité RGPD

• Identifier le risque de fuite de données confidentielles envoyées à des API externes.
• Rappeler les principes RGPD : base légale, minimisation, finalité, information des personnes.
• Distinguer les outils grand public des offres entreprise (non-réutilisation des données, hébergement).
• Proscrire la saisie de données personnelles ou sensibles dans des outils non maîtrisés.
• Encadrer les usages via une politique interne et la sensibilisation au Shadow AI.

Module 3 — Biais et enjeux éthiques

• Comprendre l'origine des biais : données d'entraînement non représentatives et amplification de stéréotypes.
• Repérer les risques de discrimination dans le recrutement, l'évaluation ou l'accès aux services.
• Évaluer les conséquences juridiques et réputationnelles des décisions biaisées.
• Mettre en place une supervision humaine et un contrôle de la qualité des sorties.
• Documenter et tracer les usages pour garantir transparence et responsabilité.

Module 4 — Propriété intellectuelle et deepfakes

• Clarifier les incertitudes sur les droits d'auteur des contenus générés par IA.
• Anticiper les risques de contrefaçon liés aux données d'entraînement et aux sorties.
• Comprendre les deepfakes : usurpation de voix et d'image, fraude au président, contournement biométrique.
• Rappeler les obligations de transparence (marquage des contenus générés, article 50 de l'IA Act).
• Définir des règles internes de validation et de mention de l'usage de l'IA.

Module 5 — Dépendance, gouvernance et bonnes pratiques

• Identifier le risque de dépendance excessive à l'IA et de perte de compétences (deskilling).
• Maintenir l'esprit critique et le jugement humain comme décideur final.
• Formaliser une charte d'usage de l'IA générative accessible à tous les collaborateurs.
• Former les équipes au prompt engineering, à la vérification et à la sécurité des données.
• Mettre en place une veille et un dispositif d'amélioration continue des pratiques.