Alors que les interdictions déjà prévues par cet article s’appliqueront à compter du 2 août 2025, le texte y ajoute deux nouvelles pratiques prohibées concernant les systèmes de « nudification » et ceux générant des contenus pédocriminels, applicables à compter du 2 décembre 2026.
De l’AI Act au Digital Omnibus : l’adaptation du cadre européen de régulation
Le Digital Omnibus marque une nouvelle étape dans la construction du cadre européen de l’intelligence artificielle (IA). S’il poursuit un objectif de simplification réglementaire, il entend également préserver un niveau élevé de protection face aux risques les plus sensibles liés au développement de l’IA.
Le RIA : promouvoir l’innovation tout en encadrant les risques de l’IA
Le règlement (UE) 2024/1689 établit le premier cadre horizontal européen applicable aux systèmes d’IA. Son objectif est de favoriser l’innovation et le développement du marché européen de l’IA tout en garantissant un niveau élevé de protection des droits fondamentaux, de la santé, de la sécurité et des valeurs démocratiques de l’Union européenne. Pour y parvenir, le législateur a retenu une approche fondée sur les risques.
Les systèmes les plus dangereux sont qualifiés de pratiques présentant un « risque inacceptable » et font l’objet d’une interdiction à l’article 5. Cette catégorie comprend notamment le scoring social, les systèmes recourant à des techniques manipulatrices ou trompeuses, ceux exploitant la vulnérabilité de certaines personnes, ainsi que certaines formes d’identification ou de catégorisation biométrique.
Le Digital Omnibus : simplifier la mise en œuvre de l’AI Act sans déréguler
Entré en vigueur le 27 juillet 2026, le Digital Omnibus s’inscrit dans l’agenda européen de simplification réglementaire. Il vise à faciliter la mise en œuvre de l’AI Act en renforçant la sécurité juridique des opérateurs économiques et en reportant certaines échéances applicables aux systèmes d’IA à haut risque. Sont notamment concernées les exigences de gestion des risques, de gouvernance des données, de documentation technique, de supervision humaine et de cybersécurité. La réforme s’accompagne également d’un réaménagement du calendrier d’application du RIA :
- 2 décembre 2026 : entrée en vigueur des nouvelles interdictions visant les systèmes de « nudification » et ceux générant du matériel d’abus sexuels sur mineurs (CSAM);
- 2 décembre 2027 : application des obligations relatives aux systèmes d’IA à haut risque relevant de l’annexe III ;
- 2 août 2028 : application des obligations concernant certaines IA à haut risque intégrées à des produits réglementés.
Nudification et pédocriminalité : deux nouvelles pratiques désormais interdites
Afin de répondre aux risques liés à l’essor de l’IA générative, le Digital Omnibus enrichit la liste des pratiques interdites à l’article 5 de l’AI Act. Deux nouveaux usages sont désormais visés : la nudification et la génération de contenus pédocriminels.
Les systèmes de « nudification » dans le viseur du législateur européen
Le Digital Omnibus complète l’article 5, paragraphe 1, du RIA par un nouveau point b bis) interdisant la mise sur le marché, la mise en service ou l’utilisation de systèmes d’IA générant ou manipulant des contenus réalistes représentant les parties intimes d’une personne identifiable ou une personne se livrant à des activités sexuellement explicites, sans son consentement libre, spécifique, éclairé, univoque et explicite. Sont notamment visées les applications de « nudification » (nudifiers), capables de créer artificiellement des images de nudité à partir de photographies authentiques, ainsi que les outils permettant de produire des deepfakes sexuels réalistes.
Cette interdiction répond à la multiplication des contenus intimes non consentis générés par IA (NCII/NCIM). En les qualifiant de pratiques présentant un « risque inacceptable », le législateur européen justifie leur interdiction pure et simple.
Le renforcement de la lutte contre les contenus pédocriminels générés par IA
Le Digital Omnibus introduit un nouveau point b ter) à l’article 5, paragraphe 1, du RIA. Celui-ci interdit la mise sur le marché, la mise en service ou l’utilisation de systèmes d’IA générant ou manipulant du matériel d’abus sexuels sur mineurs (Child Sexual Abuse Material ou CSAM), y compris lorsque les contenus produits sont entièrement synthétiques. Sont notamment visés les outils capables de créer des images ou vidéos pédocriminelles réalistes à partir de simples requêtes. Cette interdiction vise à empêcher le développement de technologies facilitant la production et la diffusion de tels contenus grâce aux capacités croissantes de l’IA générative. Bruxelles adopte ainsi une approche préventive en interdisant directement les systèmes concernés, lesquels sont désormais considérés comme des pratiques présentant un risque inacceptable au sens de l’article 5 du RIA.
Une réponse forte aux dérives de l’IA générative mais des défis persistants de conformité
L’intégration de ces nouvelles pratiques à l’article 5 produit des effets juridiques significatifs. Elle expose les opérateurs au régime de sanctions le plus sévère du RIA tout en renforçant les exigences pesant sur les fournisseurs de systèmes d’IA générative.
Des pratiques interdites soumises au régime de sanctions le plus sévère du RIA
L’ajout de ces deux nouvelles pratiques à l’article 5 est loin d’être symbolique. La nudification et la génération de contenus pédocriminels rejoignent la catégorie des usages d’IA considérés comme présentant un risque inacceptable, soumis au régime de sanction le plus sévère du RIA. Les contrevenants s’exposent à des amendes pouvant atteindre 35 millions d’euros ou 7 % du chiffre d’affaires annuel mondial, le montant le plus élevé étant retenu. À titre de comparaison, les manquements aux obligations applicables aux systèmes d’IA à haut risque sont sanctionnés à hauteur de 15 millions d’euros ou 3 % du chiffre d’affaires mondial. En érigeant ces pratiques au rang de risques inacceptables, l’Union européenne adresse un message clair : certains usages de l’IA générative n’ont pas vocation à être encadrés, mais interdits.
Une mise en conformité complexe pour les fournisseurs d’IA générative
Si l’objectif poursuivi apparaît légitime, la portée réelle de ces nouvelles interdictions interroge. Les comportements visés étaient déjà largement sanctionnés par les droits pénaux nationaux, le RGPD et diverses réglementations européennes relatives aux contenus illicites. Le Digital Omnibus consacre ainsi davantage ces risques dans le droit de l’IA qu’il ne crée de nouvelles interdictions. Par ailleurs, le texte vise non seulement les systèmes conçus à ces fins, mais également ceux pour lesquels de tels usages sont « raisonnablement prévisibles » en l’absence de garanties adéquates. Cette notion pourrait générer une certaine insécurité juridique pour les fournisseurs de modèles d’IA générative. Afin de limiter leur exposition au risque réglementaire, les entreprises devront mettre en place des mécanismes de filtrage, de surveillance des usages et de documentation des risques.
Conclusion : Les fournisseurs de systèmes d’IA générative ont intérêt à anticiper dès maintenant l’entrée en vigueur de ces nouvelles interdictions, en évaluant les risques de génération de contenus intimes non consentis ou de CSAM, en renforçant les mécanismes de filtrage et de contrôle des contenus générés, et en documentant les mesures de prévention mises en œuvre. Une vigilance particulière s’impose compte tenu du régime de sanctions applicable aux pratiques interdites de l’article 5.
***
Le cabinet HAAS Avocats est spécialisé depuis près de trente ans en droit des nouvelles technologies et de la propriété intellectuelle. Il accompagne les acteurs du numérique face à leurs problématiques diverses en la matière, aussi bien en précontentieux qu’en contentieux. Dans un monde incertain, choisissez de vous faire accompagner par un cabinet d’avocats fiables. Pour nous contacter, cliquez ici
