Amendement n°CS1073
Auteur
Exposé des motifs
Le développement de l’intelligence artificielle et la diffusion de modèles technologiques en open-source ont profondément transformé l’accès aux outils de traitement automatisé du langage. Si ces innovations présentent des bénéfices importants en matière d’innovation et de démocratisation technologique, elles peuvent également faire l’objet de détournements à des fins criminelles, notamment dans le domaine de l’exploitation sexuelle des mineurs. En particulier, certains systèmes conversationnels, tels que les chatbots, peuvent être entraînés, paramétrés ou modifiés afin de simuler des interactions humaines dans le but de manipuler psychologiquement des enfants. Ces usages détournés peuvent faciliter des stratégies de « grooming », consistant à instaurer progressivement une relation de confiance avec un mineur en vue de l’exposer à des sollicitations sexuelles, de l’isoler ou de l’amener à produire ou transmettre des contenus à caractère sexuel. La disponibilité en open-source de certains modèles, combinée à leur capacité d’adaptation, peut ainsi abaisser significativement les barrières techniques permettant la mise en œuvre de telles stratégies d’emprise. Ces outils deviennent alors des instruments facilitant la commission d’infractions particulièrement graves, en renforçant la capacité des auteurs à cibler, approcher et manipuler des victimes mineures à grande échelle. Or, le droit pénal doit être en mesure d’appréhender non seulement les actes directement commis sur les victimes, mais également les moyens technologiques spécifiquement détournés ou utilisés dans le but de faciliter leur exploitation. L’absence de prise en compte explicite de ces outils dans le cadre juridique actuel peut créer des zones de vulnérabilité exploitables par les auteurs d’infractions. Le présent amendement vise ainsi à sanctionner le détournement de moyens technologiques facilitant l’exploitation sexuelle de mineurs. Il vise notamment les modèles de chatbots disponibles en open-source lorsqu’ils sont entraînés, configurés ou modifiés afin de produire des scénarios de manipulation ou de grooming susceptibles d’être utilisés par des prédateurs pour approcher et piéger des enfants. Cette disposition a pour objectif de renforcer la prévention en amont des infractions, de mieux appréhender les outils numériques utilisés dans les stratégies d’emprise et de garantir une protection renforcée des mineurs face aux nouvelles formes de prédation rendues possibles par les évolutions technologiques.
Dispositif de l'amendement
Après le premier alinéa à l’article 227‑22 du code pénal, il est inséré un alinéa ainsi rédigé : « Constitue également le délit prévu au présent article le fait d’utiliser un système automatisé ou un modèle d’intelligence artificielle, lorsque ce moyen est intentionnellement employé afin de générer ou reproduire des scénarios, discours, comportements ou interactions ayant pour objet ou pour effet de faciliter la commission d’infractions à l’encontre d’un mineur. »