Actus formation
20/2/2025

AI Act & organismes de formation : Comment se préparer aux nouvelles mesures sur l’intelligence artificielle

Intelligence artificielle (IA)
Gestion d'organisme de formation
Veille légale et réglementaire

On parle beaucoup d’intelligence artificielle, et même sûrement trop.

Elle est partout, et dans le secteur de la formation, elle est déjà bien ancrée dans les pratiques : 71 % des professionnels de la formation l’utilisent au moins une fois par semaine (source).

Avec l’AI Act, cette réalité va évoluer. Ce règlement européen impose un cadre plus strict à l’usage de l’IA, notamment dans les processus d’apprentissage. Les organismes de formation sont directement concernés et doivent se préparer dès maintenant.

Qu’est-ce que l’AI Act ?

vise à encadrer l’utilisation de l’intelligence artificielle au sein de l’Union européenne. Son objectif : garantir une IA sécurisée, transparente et respectueuse des droits fondamentaux.

Les grandes lignes :

  • Adopté par le Parlement européen le 13 mars 2024 et le Conseil de l’UE le 21 mai 2024.
  • Entrée en vigueur le 1ᵉʳ août 2024, avec une application progressive des mesures.
  • S’applique aux fournisseurs et aux utilisateurs d’IA : entreprises, administrations, établissements éducatifs et organismes de formation.
  • Marquage CE obligatoire pour les systèmes d’IA conformes.
  • Application aux usages de l’IA à haut risque dès février 2025.

Pourquoi les OFs sont concernés ?

Comme évoqué plus haut, les organismes de formation utilisent de plus en plus l’IA.

Dans l’évaluation des apprenants, la personnalisation des parcours ou encore la gestion de la formation. Ces usages sont classés comme “à haut risque” par l’AI Act et seront donc soumis à des obligations spécifiques. En vous explique en détail plus bas ⬇️

Comment l’AI Act définit-il l’intelligence artificielle ? 💡

L'AI Act définit l'intelligence artificielle comme des “systèmes développés au moyen de techniques d'apprentissage automatique, de logique et de statistiques, capables de générer des résultats tels que des contenus, des prédictions, des recommandations ou des décisions influençant les environnements qu'ils affectent”.

L’AI Act, à quoi ça sert ?

L’AI Act a plusieurs objectifs :

  • Garantir la sécurité des personnes et des biens
  • Protéger les droits fondamentaux, tels que la vie privée, la non-discrimination et la transparence
  • Encourager une utilisation responsable et éthique de l'IA
  • Favoriser l'innovation en établissant un cadre clair pour le développement et l'utilisation de l'IA.

Le règlement opte pour une approche basée sur les risques en classant les systèmes d’IA en différentes catégories :

  • Risque inacceptable
  • Risque élevé
  • Risque limité
  • Risque minimal

Cette catégorisation est faite en fonction de l’usage prévu de la technologie, et non du fonctionnement de la technologie sous-jacente. L’AI Act impose des obligations proportionnelles au niveau de risque associé.

Un clavier d'ordinateur avec une touche représentant l'intelligence artificielle par un visage contenant les lettres AI.

Qu’est-ce qui change concrètement pour les OFs ?

Dès février 2025, les organismes de formation utilisant des systèmes d’IA classés à haut risque devront se conformer à des obligations strictes.

Les exigences principales :

  • Gestion des risques : identification et réduction des risques liés à l’IA.
  • Documentation technique : conservation de preuves sur l’usage de l’IA.
  • Transparence : informer les utilisateurs finaux qu’ils interagissent avec une IA.
  • Surveillance humaine : contrôle et validation des décisions prises par l’IA.
  • Cybersécurité et protection des données : garantir la sécurité des informations utilisées.

L’IA est de plus en plus intégrée aux processus de formation : admission, notation, personnalisation des parcours… Lorsqu’elle impacte des décisions cruciales pour les apprenants, elle est considérée comme “à haut risque” et soumise à des exigences renforcées en matière de transparence, de sécurité et de supervision humaine.

Quels usages sont concernés pour les OFs ?

Les systèmes d’IA utilisés pour :

  • La sélection et le positionnement des apprenants dans une formation.
  • L’adaptive learning, c’est-à-dire la construction de parcours individualisés en fonction des performances des stagiaires.
  • La gestion de l’apprentissage via un LMS, en particulier lorsqu’il inclut des outils d’évaluation automatisés ou de notation assistée par IA.

💡 Point de vigilance : Les OFs devront également être attentifs aux fournisseurs de solutions IA qu’ils utilisent, notamment pour les LMS, outils d’évaluation ou logiciels de gestion intégrant de l’IA. Ces prestataires doivent garantir la conformité aux exigences de l’AI Act.

Avec l’essor des technologies d’IA dans la formation, les organismes doivent s’assurer que leurs outils et partenaires respectent les nouvelles obligations. Dès février 2025, ces exigences seront pleinement appliquées, imposant des normes plus strictes pour les usages jugés sensibles.

Les sanctions prévues pour le non-respect des exigences peuvent aller de 7,5 à 35 millions d’euros d’amende ou 1 à 7% du chiffre d’affaires mondial de l’entreprise en fonction de la nature des exigences et des dispositions enfreintes.

Concrètement, qu’est ce qui change pour les OFs ?

À partir de février 2025, les systèmes à haut risque devront progressivement respecter certaines exigences. Vous l’aurez compris, les usages les plus communs de l’IA par les OFs font partie de cette catégorie. Cela concernera notamment :

  • La gestion des risques
  • La documentation technique
  • La transparence
  • La surveillance humaine des systèmes d’IA

Les systèmes d’IA à haut risque seront soumis à des obligations avant de pouvoir être mis sur le marché. Elles sont inscrites dans les articles 8 à 15 :

  • Respect des exigences
  • Système de gestion des risques
  • Données et gouvernance des données
  • Documentation technique
  • Enregistrement
  • Transparence et fourniture d’information aux déployeurs
  • Contrôle humain
  • Exactitude, robustesse et cybersécurité

Les “déployeurs”, définis comme “personne physique ou morale, autorité publique, agence ou autre organisme utilisant un système d’IA sous son autorité” sont soumis à des obligations spécifiques. La plupart des OFs tombent dans cette catégorie. Par exemple, un OF qui utilise un système d’IA pour générer automatiquement des descriptions de cours ou des mails adressés à ses clients.

Quelles sont ces obligations ?
  • Surveillance et contrôle : assurer que le système d’IA est utilisé conformément à sa destination et aux instructions du fournisseur
  • Transparence : informer les utilisateurs finaux qu’ils interagissent avec un système d’IA
  • Gestion des risques : identifier et atténuer les risques liés à l’utilisation du système d’IA

Un homme consulte un site internet sur un ordinateur.

Exemples de risques et leurs solutions :

  • Le mésusage des données partagées avec l’IA → optez pour un système qui s’appuie sur une IA de confiance et qui vous permet de contrôler quelles données vous partagez.
  • Les “hallucinations”, de fausses réponses présentées comme certaines → contrôlez toujours avec un regard humain les informations et contenus produits.
  • Les biais dans les réponses, comme un système de tri des candidats à une formation qui favoriserait des participants plutôt que d’autres sur des critères discriminatoires → testez l’outil et contrôlez toujours ses réponses.

En août 2025, d’autres règles commenceront à s’appliquer, et des ajustements et mises à jour sont prévus jusqu’en 2031.

Comment se préparer à l’AI Act en tant qu’OF ?

1️⃣ Identifier les usages de l’IA dans votre organisme

  • Quels outils IA utilisez-vous ?
  • Servent-ils à sélectionner des apprenants ou évaluer leurs compétences ?
  • Ont-ils un impact direct sur l’accès à la formation ?

2️⃣ Vérifier la conformité des outils utilisés

  • Assurez-vous que vos fournisseurs (LMS, logiciels de gestion…) respectent l’AI Act.
  • Vérifiez la présence du marquage CE sur les systèmes IA que vous utilisez.

3️⃣ Mettre en place un contrôle humain

  • Aucun système IA ne doit prendre seul des décisions importantes sur l’apprentissage.
  • Désignez des responsables pour superviser les recommandations et évaluations générées par IA.

4️⃣ Sensibiliser vos équipes à l’IA et aux nouvelles obligations

  • Informez vos formateurs et administrateurs sur les risques et les bonnes pratiques.
  • Intégrez l’IA dans une charte interne précisant les règles et les limites d’utilisation.

5️⃣ Anticiper les futures évolutions réglementaires

  • L’AI Act évoluera jusqu’en 2031 avec des ajustements progressifs.
  • Maintenez une veille active sur les obligations à venir.

💡 Bon à savoir : Un outil en ligne permet d’évaluer la conformité de vos usages à l’AI Act. Testez-le ici.

Bonus : Comment les OF utilisent-ils l’IA ?

Selon le Baromètre IA de Septeo Education, les organismes de formation adoptent largement l’IA. Voici quelques usages courants :

  • Création de contenus pédagogiques
  • Marketing et commercial
  • Gestion administrative

Bannière avec un bouton cliquable. Texte sur l’image : “Intelligence artificielle : une révolution survendue ? Baromètre 2025 : l’IA dans la formation professionnelle”. Texte sur le bouton : “Je télécharge l’e-book gratuitement”.

Ces pratiques vont évoluer avec l’AI Act, et les OFs doivent s’adapter en assurant une IA maîtrisée et conforme aux nouvelles exigences.

Découvrez comment Dendreo intègre une IA responsable ici : En savoir plus sur l’IA dans Dendreo

Rédigé par
le
02/2025

Articles similaires

Date limite du Blan Pédagogique et Financier (BPF) 2025
Actus formation
February 21, 2025

BPF 2025 : quelle est la date limite de soumission ?

Gestion d'organisme de formation
Veille légale et réglementaire
Journée mondiale de la protection des données : 5 conseils pour protéger vos données
Informations et conseils
January 28, 2025

Journée mondiale de la protection des données : 5 conseils pour les OFs

Gestion d'organisme de formation
Retrouvez Dendreo au salon Learning Technologies 2025
Evénement
January 21, 2025

Retrouvez Dendreo au salon Learning Technologies 2025

Gestion d'organisme de formation
Intelligence artificielle (IA)
Dendreo
Revenir sur le blog
Salut, c'est nous... les Cookies ! 👋 🍪
On a attendu d'être sûrs que le contenu de ce site vous intéresse avant de vous déranger, mais on aimerait bien vous accompagner pendant votre visite... C'est OK pour vous ?
Continuer sans accepter