L’Internet Watch Foundation déclare avoir identifié pour la première fois des contenus pédocriminels liés à des chatbots IA
Pour la première fois, les analystes de l'Internet Watch Foundation (IWF) ont identifié des images d'abus sexuels sur des enfants générées par l'IA et liées à des chatbots IA. Depuis juin de cette année, l'IWF, la plus grande hotline européenne dédiée à l'identification et au retrait du matériel d’abus sexuels sur les enfants, a recensé 17 signalements de contenus sexuels sur des enfants générés par l'IA sur un site web de chatbot IA.
Ce site se trouve sur le clear web, cette partie d’internet accessibles au grand public que nous utilisons tous quotidiennement.Bien qu'il semble à première vue proposer des personnages de chatbot inoffensifs avec lesquels les utilisateurs peuvent dialoguer et interagir, les analystes de l'IWF ont découvert que ce site web avait un côté plus sinistre.
En accédant à ce même site web via un chemin numérique particulier, les utilisateurs peuvent interagir avec plusieurs chatbots qui simulent des scénarios sexuels « répugnants », impliquant des enfants. Au cours de ce processus, des images d'abus sexuels sur des enfants générées par l'IA sont partagées, certaines représentant des enfants âgés d'à peine sept ans.
Voici quelques exemples de scénarios signalés: « enfant prostitué dans un hôtel » ; « relations sexuelles avec votre enfant pendant que votre femme est en vacances » ; et « enfant et enseignant seuls après les cours ».
Les analystes de l'IWF n'ont à aucun moment généré eux-mêmes des images des abus sexuels sur enfants lors de leur enquête sur le site. Les chatbots IA sont produits par les créateurs du site web ainsi que par ses utilisateurs.
Au Royaume-Uni, ces contenus sont illégaux en vertu du droit en vigueur,1 et l’IWF peut demander leur suppression des sites internet. De nouvelles lois britanniques2 sont par ailleurs en préparation afin de criminaliser l’utilisation d’outils d’IA pour produire de tels contenus, l’IWF soulignant que cette législation « ne saurait arriver trop tôt ».
Cependant, l’IWF alerte sur une grave lacune dans l’approche actuelle du Conseil de l’UE concernant la révision de la Directive relative à l’exploitation et aux abus sexuels des enfants.3 Dans sa forme actuelle, le texte pourrait conduire à ce que, dans certains États membres, la possession à des fins « d’usage personnel » de contenus générés par l’IA ne soit pas considérée comme une infraction, sauf si ces pays adoptent des règles nationales plus strictes.
Face aux négociations en cours, l’IWF appelle instamment le Conseil à aligner sa position sur celle du Parlement européen en supprimant cette exception pour usage personnel. L’organisation demande également d’instaurer une obligation européenne de criminaliser la création, la possession et la diffusion non seulement des contenus générés par IA, mais aussi des manuels et modèles d’IA destinés à produire du matériel d’abus sexuel sur enfants.
Kerry Smith, Directrice générale de l’IWF, déclare : « Malheureusement, nous constatons que les avancées rapides de l’intelligence artificielle sont systématiquement exploitées par les criminels à des fins malveillantes. Il est donc essentiel que toutes les formes d’abus sexuel d’enfants en ligne soient sanctionnées et poursuivies, quel que soit le mode de production ou le lieu de diffusion.
L’Union européenne fait des progrès encourageants avec la révision de la Directive, mais il faut aller plus loin et plus vite. C’est pourquoi nous appelons à une adoption rapide du texte, afin de pénaliser partout en Europe la production et la diffusion de contenus d’abus sexuels sur mineurs générés par IA.
Il n’existe aucune justification à l’existence de tels sites, ni à la possession de tels contenus par des délinquants. Cette Directive constitue la meilleure opportunité pour l’Europe de combler des lacunes dangereuses dont les criminels profitent déjà. »
Les 17 signalements de contenus des abus sexuels sur enfants générés par l'IA ont été identifiés sur le site web entre le 1er juin et le 7 août 2025. Les signalements contenaient principalement (94 %) des images de catégorie C (poses sexuelles et nudité) et mettaient en scène principalement des enfants âgés de 11 à 13 ans (82 %). Un signalement représentait un enfant âgé de 7 à 10 ans.
Le site web offre aux utilisateurs un temps de chat gratuit et limité avant de leur proposer un abonnement payant pour avoir un accès illimité aux personnages du chatbot IA. Les appels vocaux avec les chatbots sont annoncés comme étant « bientôt disponibles ».
Les analystes de la hotline de l'IWF affirment qu'à première vue, le site web semble offrir des expériences légales de chatbot pour adultes. Mais après avoir reçu des signalements de membres du public inquiets, les analystes ont creusé davantage et ont découvert une section cachée du site qui montre du contenu criminel. L'IWF a partagé ses conclusions avec les forces de l'ordre.
Les métadonnées issues des images criminelles montrent les instructions textuelles utilisées pour générer les images, et les analystes de l’IWF estiment que les instructions étaient très claires dans leur intention de créer des images d'abus sexuels sur des enfants et ne pouvaient en aucun cas être interprétées comme innocentes ou accidentelles.
Jeff4, analyste principal du contenu Internet à l'IWF, a déclaré : « Notre premier signalement provenait d'un membre du public, mais à l'époque, le site web du chatbot affichait principalement des images animées de style manga, représentant des adultes et des enfants, et aucune de ces images ne pouvait donner lieu à des poursuites judiciaires.
Cependant, nous avons ensuite trouvé un lien sur une plateforme de réseau social populaire qui nous a redirigés vers le même site, qui affichait désormais un contenu nettement différent et plus sombre. Il était plus photoréaliste et comprenait des images d'abus sexuels sur des enfants.
Nous pensons qu'il existe deux versions du site web et que le contenu illégal n'apparaît que si vous suivez un lien particulier ou si vous avez suivi un chemin particulier à partir d'autres pages web. Dans les deux cas, légitime et criminel, l'URL de la page web reste la même.
Malheureusement, voir les chatbots IA utilisés de cette manière n'est pas vraiment surprenant. Cela semble être une conséquence inévitable lorsque les nouvelles technologies sont détournées à des fins malveillantes par des personnes mal intentionnées. Nous savons que les délinquants utiliseront tous les moyens à leur disposition pour créer, partager et diffuser du matériel d'abus sexuels sur enfants »
L'IWF a publié en juillet de nouvelles données montrant que les signalements d'images d'abus sexuels sur des enfants générées par l'IA avaient augmenté de 400 % au cours des six premiers mois de cette année. Les analystes de l'IWF ont pris des mesures contre les images d'abus sexuels sur des enfants générées par l'IA sur 210 pages web, contre 42 pages web en 2024.
Le nombre de vidéos générées par l'IA a également explosé pendant cette période, avec 1 286 vidéos individuelles générées par l'IA montrant des abus sexuels sur des enfants traitées entre janvier et fin juin de cette année.
Parmi ces vidéos confirmées comme montrant des abus sexuels sur des enfants, 1 006 ont été classées comme les images les plus extrêmes (catégorie A) au sens de la loi, c'est-à-dire des vidéos pouvant montrer des viols, des tortures sexuelles ou de la bestialité.
Kerry Smith a ajouté : « Les matériels sexuels sur enfants générés par l'IA ne sont pas des crimes sans victimes. Il s'agit d'images très perturbantes, et des recherches montrent que le fait de regarder ces matériels peut normaliser les abus sexuels sur enfants.
Nous savons également que, dans certains cas, des images existantes d'abus sexuels sur enfants ont été utilisées pour entraîner des modèles d'IA, intégrant ainsi le traumatisme réel des victimes dans des contenus synthétiques. Cela ne fait que perpétuer le cycle de souffrance que vivent les victimes et les survivants. »
Angèle Lefranc, chargée de plaidoyer à la Fondation pour l’Enfance, a declaré : « La découverte de chatbots IA produisant des contenus pédocriminels par l’IWF nous inquiète au plus haut point. Elle est un énième signal d’alarme sur la crise de l’exploitation sexuelle des mineurs en ligne que la communauté internationale connait actuellement. Nous exhortons les Etats et les entreprises à prendre des mesures fortes pour prévenir, détecter et sanctionner les pratiques pédocriminelles en ligne.
L’Union européenne est à un moment charnière et aura, dans les prochaines semaines, l’occasion de se positionner en tant que leader, aux côtés du Royaume-Uni, de la lutte contre ce fléau. Nous appelons les Etats membres à voter en faveur d’un règlement permettant d’obliger les fournisseurs de services en ligne à détecter les contenus pédocriminels circulant sur leurs plateformes. Nous demandons également au Conseil de l’Union européenne de reconnaître de manière inconditionnelle que la pédocriminalité générée par l’IA est un crime ».
Notes aux rédacteurs :
1 Les images générées par l'IA représentant des abus sexuels sur des enfants sont illégales au Royaume-Uni. Les abus générés par l'IA que nous avons confirmés sont passibles de poursuites en vertu de la loi de 1978 sur la protection des enfants (Protection of Children Act 1978) ou de la loi de 2009 sur les coroners et la justice (Coroners and Justice Act 2009) (pour les NPI).
2 Le projet de loi britannique sur la criminalité et le maintien de l'ordre introduit « une nouvelle infraction pénale qui criminalise les modèles d'IA optimisés pour créer du matériel d’abus sexuels sur les enfants ». https://www.gov.uk/government/publications/crime-and-policing-bill-2025-factsheets/crime-and-policing-bill-child-sexual-abuse-material-factsheet
3 La révision de la directive vise à criminaliser au niveau européen la production, la possession et la diffusion de tout contenu d’abus sexuel sur enfants, y compris les images générées par IA, les deepfakes et les manuels pédophiles, tout en renforçant la protection des victimes et la coopération transfrontalière. https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex:52024PC0060
4 Nom modifié afin de protéger l'identité de l'analyste.