Amendement n°CS1136

Auteur

Alexandra Martin (Alpes-Maritimes)

DR

47 cosignataires

Valérie Bazin-Malgras

François-Xavier Ceccoli

Cendrine Chazé

Pierre Cordier

Marie-Christine Dalloz

Antoine Vermorel-Marques

Jean-Pierre Vigier

Laurent Wauquiez

Exposé des motifs

Cet amendement des députés Droite Républicaine propose de créer une infraction contre les outils d’intelligence artificielle conçus pour produire des contenus pédopornographiques. Il s’inscrit dans le prolongement des travaux de la députée Alexandra MARTIN, notamment sa proposition de loi n°2829 visant à lutter contre la pédocriminalité en ligne et les violences sexuelles sur mineurs. La lutte contre la cyberpédocriminalité est un enjeu majeur de protection de l’enfance. On constate une augmentation rapide des infractions commises en ligne, en raison notamment de la facilité avec laquelle les auteurs peuvent entrer en contact avec des mineurs ou diffuser des contenus d’exploitation sexuelle. En France, 9 710 infractions numériques commises à l’encontre de mineurs ont été enregistrées par les services de police et de gendarmerie en 2023, soit 2,3 fois plus qu’en 2016. Le présent amendement sanctionne la mise en circulation d’outils d’intelligence artificielle spécifiquement conçus pour générer des contenus sexuels impliquant des mineurs, en visant toute la chaîne de création et de diffusion de ces modèles. Les modèles de traitement algorithmique manifestement élaborés dans le dessein de permettre la génération de contenus textuels, notamment les agents conversationnels de type chatbot, sont inclus.

Dispositif de l'amendement

Après l’article 226‑8‑1 du code pénal, il est inséré un article 226‑8‑2 ainsi rédigé : « Art. 226‑8‑2. – Est puni de cinq ans d’emprisonnement et de 300 000 euros d’amende le fait de créer, de générer, de développer, d’entraîner, de diffuser ou de mettre à la disposition du public ou de tout tiers un modèle de traitement algorithmique manifestement conçu dans le but de permettre la création, la production ou la diffusion de contenus, qu’ils soient visuels, sonores ou textuels, à caractère sexuel, lorsque ces contenus sont diffusés sans le consentement de la personne représentée. « Est également puni des mêmes peines le fait d’utiliser, de détourner ou de paramétrer un tel modèle ou tout système de génération fondé sur un traitement algorithmique aux fins de produire ou de diffuser des contenus à caractère sexuel sans le consentement de la personne concernée. « Lorsque les faits mentionnés aux deux premiers alinéas concernent des contenus définis à l’article 227‑23, les peines sont portées à sept ans d’emprisonnement et à 500 000 euros d’amende. « Est assimilé aux faits mentionnés au présent article le recours à des agents conversationnels automatisés ou à tout système de génération de texte ou de contenu fondé sur un traitement algorithmique, lorsque ceux‑ci sont manifestement conçus, paramétrés, utilisés ou détournés de leur finalité initiale aux fins de produire de tels contenus. »