IA et organismes de formation : un levier d’innovation régulé

L’intelligence artificielle est en train de transformer le secteur de la formation professionnelle. Automatisation, personnalisation des parcours, création de contenus interactifs : les opportunités sont nombreuses ! 

Toutefois, depuis l’adoption de l’AI Act par l’Union Européenne en 2024, ces innovations doivent s’accompagner d’une vigilance accrue.

AI Act : OF vous êtes aussi concernées ! 

AI Act européen impose des règles strictes sur l’usage de l’intelligence artificielle, en particulier dans les secteurs sensibles comme l’éducation et la formation.

La pleine entrée en vigueur du texte est prévue courant 2026. Des sanctions financières sont prévues pouvant aller jusqu’à 6 % du chiffre d'affaires pour les infractions majeures.

Nous allons voir ici les risques et je vous donnerai des pistes concrètes afin d utiliser l AI en toute conformité 

Source : Parlement Européen,  AI Act (2024).

Les Risques et classification selon l’AI Act :

• Risque inacceptable : Les systèmes d'IA qui présentent un risque jugé inacceptable seront purement et simplement interdits. 

• Risque elevé : Les systèmes d'IA à haut risque, tels que ceux utilisés dans des domaines critiques comme la sécurité des infrastructures, la santé, et l'éducation

• Risque limité et minimal : Pour les systèmes d'IA à risque limité, des exigences de transparence s'appliquent, notamment l'obligation d'informer les utilisateurs que le contenu est généré par une IA. 

Exemple en formation 

Risque élevé : si l’IA à une  influence sur les évaluations, le positionnement ou l’accès à la formation.
Risque limité : si l’IA génère des supports ou automatise des tâches sans impact direct sur la progression des apprenants.

Vos obligations en tant qu’organisme de formation  :

Informer les apprenants sur l’usage d’outils IA dans leurs parcours (obligation de transparence).

Limiter et superviser les systèmes IA par des humains, surtout s’ils influencent l’orientation ou l’évaluation.

Documenter tous les processus IA utilisés dans l’ingénierie pédagogique ou l’administration.

Effectuer une analyse des risques si les outils IA interviennent dans la personnalisation des formations.

Garantir la non-discrimination et l’accessibilité pour les personnes en situation de handicap.

Sources : AI Act (2024), CNIL (2024), European Commission (2024)

Mes Recommandations pratiques

Afficher “Généré par l’IA” 

Vous devez informer explicitement vos apprenants dans les situations suivantes :

Quand vous utilisez des outils d’évaluation automatisée :

Quiz générés ou corrigés automatiquement par une IA.
Corrections sans intervention humaine.
Quand vous utilisez des contenus pédagogiques générés par l’IA :

Cours ou supports créés intégralement ou partiellement par une IA (textes, vidéos, présentations…).
Quand vous utilisez des chatbots pédagogiques ou assistants IA :

Outils conversationnels intégrés à vos plateformes de formation.

Quand vous utilisez des IA pour adapter les parcours de formation en temps réel.


Dans tous ces cas, l’indication “Généré par l’IA” doit être affichée de manière claire et accessible pour les apprenants.

Quand devez-vous éviter l’usage de l’IA ?

Vous devez éviter l’usage d’IA dans les activités suivantes :

• Décision automatisée de sélection des candidats à une formation sans validation humaine

• Certification ou délivrance de diplômes de manière automatisée sans contrôle humain

• Utilisation d’IA pour trier ou évaluer les candidatures à l’entrée d’une formation si cela influence l’accès à la formation
  
  Les activités à faible risque ou sans obligation stricte :

• Utilisation d’IA pour traduction automatique des supports

• Création de contenus internes (supports de communication) avec IA, non diffusés comme supports pédagogiques

• Analyse de satisfaction ou retours apprenants via IA sans impact direct sur leur parcours ou leur certification

IA et conformité Qualiopi

L’intégration de l’IA doit être alignée avec les exigences Qualiopi, soyez vigilant en particulier sur les critères suivants :

Critère 2 : Objectifs et adaptation

Critère 3 : Adaptation aux publics et accessibilité des contenus
Critère 7 : Evaluation et traçabilité des actions et prise en compte des retours des parties prenantes

Source : Guide Qualiopi 2024

IA et RGPD

L’utilisation de l’IA dans la formation implique directement le respect du Règlement Général sur la Protection des Données (RGPD). Dès lors que l’IA traite des données personnelles d’apprenants (noms, parcours, résultats, comportements), en tant qu'organisme de formation, vous devez garantir la transparence sur les traitements, limiter la collecte aux données strictement nécessaires, assurer la sécurité des informations et préserver les droits des personnes. Vous êtes  également responsable du choix de vos outils IA et de la conformité de vos sous-traitants.

Source : CNIL. (2024). IA et RGPD : recommandations pratiques. CNIL

Conclusion : Innover en gardant le cap réglementaire

L’IA générative est un formidable accélérateur de transformation. Elle permet de gagner en efficacité, de personnaliser les parcours et de rendre les formations plus engageantes. Mais ne perdez de vue la mission première des OF : former avec humanité, rigueur et transparence.

Sources :

• Guide Qualiopi 2024 – Version 9【7】.

• AI Act – Texte officiel. Parlement Européen

• OpenAI. (2024). Applications de l'IA générative dans la formation professionnelle.

• France Compétences. (2024). FAQ IA et Qualiopi.

• CNIL. (2024). IA et RGPD : recommandations pratiques. CNIL