Généré par l’intelligence artificielle : comment s’y retrouver ?

L'intelligence artificielle (IA) progresse rapidement, rendant de plus en plus difficile la distinction entre les contenus générés et manipulés par l'IA et les contenus authentiques créés par des humains. Le règlement [UE] 2024/1689 définit des règles en établissant un cadre juridique uniforme, en particulier pour le développement, la mise sur le marché, la mise en service et l’utilisation de systèmes d’intelligence artificielle.

Quelles sont les obligations de transparence ?

Ce règlement européen interdit notamment certaines pratiques, comme l'utilisation de l'intelligence artificielle pour vous tromper ou vous manipuler, ou pour exploiter les vulnérabilités liées à l'âge ou aux situations de handicap.

De nouvelles obligations entrent donc en application ce 2 août, reposant principalement sur des nécessités de transparence. Pour ce faire, ces contenus doivent être signalés par des marquages sous forme d’icônes créées par l'UE. Trois icônes sont à disposition pour les entreprises :

• l’icône de base (AI) : lorsque l'IA est utilisée pour générer ou modifier du contenu (texte, image, audio ou vidéo) ;
• l’icône « entièrement généré pas l’IA » (AI generated) : lorsque l'intégralité du contenu est produite par une IA, sans intervention, création ou contrôle éditorial humain ;
• l’icône « partiellement modifié par l’IA » (AI modified) : lorsque l'IA transforme partiellement un contenu humain préexistant.

Ces icônes vont vous aider, lorsque vous êtes exposé à ce type de contenu, à reconnaître, de manière claire et distincte, que ces éléments sont générés ou manipulés artificiellement.

Infographie - Icônes de l’IA

Ouvrir l’image dans une nouvelle fenêtre

Voir la version texte de l’infographie

3 icônes de l’IA :

AI

AI generated : généré pas l’IA

AI modified : modifié par l’IA

Qu’est-ce que la loi interdit concrètement ?

La loi sur l'IA interdit neuf pratiques , à savoir :

• Manipulation et tromperie nuisibles fondées sur l'IA.
• Exploitation nuisible des vulnérabilités par l'IA.
• Notation sociale.
• Évaluation ou prédiction du risque d'infraction pénale individuelle.
• Extraction non ciblée de données internet ou de séquences de vidéosurveillance pour créer ou étendre des bases de données de reconnaissance faciale.
• La reconnaissance des émotions sur les lieux de travail et dans les établissements d'enseignement.
• Catégorisation biométrique pour déduire certaines caractéristiques protégées.
• Identification biométrique à distance en temps réel à des fins de maintien de l'ordre dans les espaces accessibles au public.
• Systèmes d'IA qui génèrent du contenu sexuellement explicite et intime non consensuel ou du matériel d'abus sexuel sur enfants (CSAM), tels que les applications de « nudification » par IA, cette interdiction entrera en vigueur en décembre 2026.

Des règles supplémentaires en matière d'IA prendront effet à partir de 2027 : un ensemble de dispositions spécifiques pour encadrer les IA dites à hauts risques (agissant dans des domaines sensibles comme la santé ou la sécurité). Leur entrée en vigueur ayant été récemment retardée pour laisser le temps aux entreprises de s'y préparer.

Quelles sanctions ?

Les autorités nationales de surveillance des marchés , le Bureau européen de l'IA et le Contrôleur européen de la protection des données sont chargés de faire respecter les règles de transparence et peuvent infliger des amendes :

• jusqu'à 15 millions d'euros, soit 3 % du chiffre d'affaires annuel mondial, pour les entreprises ;
• jusqu'à 750 000 € pour les institutions, organes et agences de l'UE ;
• en tenant compte de la proportionnalité pour les petites et moyennes entreprises (PME).