IA Act : entrée en application des premières mesures
Depuis le 2 février 2025, les systèmes d'IA présentant des risques inacceptables sont interdits sur le territoire de l'Union européenne.
Par Valérie Michelet - Le 03 février 2025.
C'est à ce titre qu'est interdite la mise sur le marché, la mise en service ou l'utilisation de systèmes d'IA destinés à être utilisés pour déterminer l'état émotionnel de personnes physiques dans des situations liées au lieu de travail et à l'enseignement (article 5 du Règlement sur l'intelligence artificielle (RIA)). La base scientifique des systèmes d'IA visant à identifier ou à inférer les émotions suscite en effet de vives inquiétudes, d'autant plus que l'expression des émotions varie considérablement d'une culture et d'une situation à l'autre, comme d'ailleurs chez un même individu (attendu 44 RIA).
On notera que cette interdiction ne concerne que deux espaces : lieu de travail et lieu d'enseignement. La notion d'enseignement, dans le RIA, intègre-t-elle la sphère de la formation professionnelle ? La rédaction du RIA peut créer un doute. En effet, lorsqu'il traite non pas des systèmes d'IA à risque inacceptable mais des systèmes d'IA à haut risque, le RIA utilise une autre appellation, plus précise, que celle d'enseignement.
Pour rappel, le RIA définit les systèmes d'IA comme étant à haut risque lorsqu'ils peuvent porter atteinte à la sécurité des personnes ou à leurs droits fondamentaux ce qui justifie que leur développement soit soumis à des exigences renforcées. Ces systèmes d'IA sont notamment répertoriés selon leurs domaines d'influence. On y retrouve le domaine "Éducation et formation professionnelle" et le RIA évoque l'utilisation de ces système d'IA au sein des "établissements d'enseignement et de formation professionnelle". Au sens strict, seules seraient des lieux d'enseignement les structures titulaires d'un numéro UAI (dont les CFA).
Affaire à suivre !
oOo
L'IA, et plus spécifiquement les IA génératives, est en train de révolutionner le secteur de la formation professionnelle. Bien qu'il soit peu probable que l'IA remplace entièrement les formateurs, son intégration croissante dans les pratiques de formation impose une évaluation approfondie des risques associés. Centre Inffo vous propose une formation qui vous guidera dans l'analyse et la gestion de ces risques afin de mieux intégrer l'IA dans vos pratiques de formation.
Prochaines dates de la formation "IA et formation : prévenir les risques juridiques : les 10 et 11 juin 2025, en distanciel et le 30 septembre 2025 en présentiel.
