Ces pratiques, rendues possibles par des outils facilement accessibles et utilisables en quelques secondes, connaissent une diffusion croissante, notamment dans des contextes scolaires.
Au-delà des conséquences pour les victimes directes, ce phénomène interroge directement la responsabilité des auteurs, mais également celle des plateformes et des entreprises exploitant ou mettant à disposition des services numériques susceptibles d’être utilisés à ces fins.
Une multiplication des contenus artificiels à caractère sexuel impliquant des mineures
Certains outils permettent désormais de générer rapidement des photomontages ou des vidéos à caractère sexuel à partir de photographies existantes. Ces contenus, bien que fabriqués artificiellement, peuvent viser des mineures identifiables et être diffusés sans leur consentement.
Une affaire récente survenue dans la Manche illustre ces dérives. Un jeune homme a alors diffusé des images générées par intelligence artificielle impliquant plusieurs collégiennes. Les juridictions ont prononcé une condamnation à deux ans d’emprisonnement avec sursis, assortie notamment d’interdictions de contact avec des mineurs.
Selon les éléments rapportés, ce type d’incident tend à se multiplier dans plusieurs établissements scolaires français, ce qui témoigne d’une diffusion croissante de ces pratiques.
Des conséquences juridiques et humaines significatives
Même lorsqu’elles sont artificielles, ces images peuvent provoquer des conséquences importantes pour les personnes visées, notamment en termes de traumatisme, de honte ou de stigmatisation. Ces contenus peuvent également être utilisés dans des contextes de harcèlement, de chantage sexuel ou de revenge porn[1], y compris entre mineurs.
En pratique, une partie des victimes ne signale pas les faits, ce qui rend l’ampleur exacte du phénomène difficile à évaluer.
Sur le plan juridique, le législateur est intervenu afin d’adapter le droit existant à ces nouvelles situations.
La loi du 21 mai 2024 prévoit ainsi que la diffusion de contenus sexuels, réels ou générés par intelligence artificielle, sans le consentement de la personne concernée, est punie de deux à trois ans d’emprisonnement et de 60 000 à 75 000 euros d’amende. Les peines peuvent être aggravées en cas de diffusion sur les réseaux sociaux.
Toutefois, malgré l’existence de ce cadre juridique, l’identification des auteurs, leur sanction effective et la suppression des contenus demeurent complexes. Les condamnations restent encore relativement rares et peuvent dépendre notamment du profil et de la motivation des auteurs.
Quelles implications concrètes pour les plateformes ?
Ce contexte expose directement les plateformes en ligne à des risques à la fois juridiques et opérationnels.
En effet, celles-ci peuvent être utilisées comme vecteurs de diffusion de ces contenus. La rapidité de propagation et la difficulté à supprimer définitivement les contenus diffusés constituent des facteurs de risque importants pour les acteurs concernés.
Dans ce contexte, plusieurs mesures apparaissent essentielles d’un point de vue opérationnel et juridique, notamment :
- La mise en place de dispositifs permettant le signalement de contenus litigieux constitue un élément central, afin de permettre leur identification et leur traitement.
- La capacité à intervenir rapidement en cas de diffusion de contenus illicites constitue un enjeu déterminant, tant pour limiter les conséquences de la diffusion que pour réduire l’exposition juridique de l’entreprise concernée.
- L’intégration de ces risques dans leur analyse globale de conformité, en tenant compte du fait que leurs services peuvent être utilisés de manière détournée par leurs utilisateurs.
Ces mesures s’inscrivent dans une démarche de prévention et de gestion des risques liés à l’utilisation des technologies d’intelligence artificielle.
Conclusion : un cadre juridique existant, mais une efficacité encore incertaine
Si la loi du 21 mai 2024[2] a permis de clarifier que les contenus sexuels générés par intelligence artificielle sont pleinement susceptibles de sanctions pénales, la mise en œuvre effective de ce cadre juridique demeure confrontée à des difficultés pratiques importantes.
La facilité de création de ces contenus, la rapidité de leur diffusion et la difficulté à en assurer la suppression complète interrogent l’efficacité réelle des dispositifs juridiques existants.
Dans ce contexte, les entreprises se trouvent en première ligne, non pas en tant qu’auteurs des infractions, mais en tant qu’acteurs techniques confrontés aux conséquences de l’utilisation de leurs services.
Cette situation soulève une interrogation précise quant à la capacité du droit à appréhender des technologies dont l’accessibilité et la rapidité d’évolution dépassent souvent les mécanismes traditionnels de régulation. Celle-ci vient également poser la question de l’équilibre entre le développement de technologies innovantes et la nécessité d’en prévenir les usages manifestement illicites, dans un environnement où les outils sont devenus très accessibles et difficilement contrôlables.
***
Le cabinet HAAS Avocats est spécialisé depuis trente ans en droit des nouvelles technologies et de la propriété intellectuelle. Il accompagne les acteurs du numérique dans le cadre de leurs problématiques judiciaires et extrajudiciaires relatives au droit de la protection des données et de l’intelligence artificielle. Dans un monde incertain, choisissez de vous faire accompagner par un cabinet d’avocats fiables. Pour nous contacter, cliquez ici.
[1] Contenu sexuellement explicite de manière publique, partagé en ligne sans le consentement de la ou des personnes concernées, en guise de vengeance
[2] LOI n° 2024-449 du 21 mai 2024 visant à sécuriser et à réguler l’espace numérique (1) – Légifrance