„Beunruhigende” KI-generierte Bilder von sexualisierter Gewalt gegen Kinder und Jugendliche auf versteckter Chatbot-Website gefunden
Zum ersten Mal haben Analyst*innen der britischen Nichtregierungsorganisation Internet Watch Foundation (IWF) KI-generierte Bilder von sexualisierter Gewalt identifiziert, die mit KI-Chatbots in Verbindung stehen.
Seit Juni dieses Jahres hat die IWF – Europas größte Hotline zur Identifizierung und Entfernung von Material sexuellen Kindesmissbrauchs – 17 Fälle von KI-generiertem Material sexualisierter Gewalt auf einer KI-Chatbot-Webseite gefunden.
Die Webseite befindet sich im normalen Internet und scheint auf den ersten Blick harmlose Chatbot-Charaktere anzubieten, mit denen Nutzende kommunizieren und interagieren können. Die Analyst*innen der IWF haben jedoch entdeckt, dass die Webseite eine dunkle Seite hat.
Der Zugriff auf dieselbe Webseite über einen bestimmten digitalen Pfad ermöglicht es Benutzenden, mit mehreren Chatbots zu interagieren, die „abscheuliche” sexuelle Szenarien mit Kindern und Jugendlichen simulieren. Dabei werden KI-generierte Bilder von sexualisierter Gewalt gegen Kinder und Jugendliche geteilt, von denen einige Kinder im Alter von nur sieben Jahren zeigen.
Zu den simulierten Szenarien, an denen Benutzende teilnehmen können, gehören: „Kinderprostituierte in einem Hotel”, „Sex mit Ihrem Kind, während Ihre Frau im Urlaub ist” und „Kind und Lehrer allein nach dem Unterricht” .
Die kriminellen Bilder von sexualisierter Gewalt gegen Kinder und Jugendliche werden angezeigt, wenn Nutzende einen Chatbot aus einer Vorschauseite auf der Website auswählt, auf der die verschiedenen Chatbot-Persönlichkeiten beschrieben werden.
Die Nutzenden haben die Möglichkeit, noch mehr Bilder zu generieren, die den bereits angezeigten kriminellen Inhalten ähneln. Die Analyst*innen der IWF haben während der Untersuchung der Webseite zu keinem Zeitpunkt selbst Bilder von sexualisierter Gewalt gegen Kinder und Jugendliche generiert. Die KI-Chatbots werden sowohl von den Erstellenden der Website als auch von ihren Nutzenden produziert.
KI-generierte Bilder und Videos von sexualisierter Gewalt gegen Kinder und Jugendliche sind nach britischem Recht illegal1, und die IWF kann Maßnahmen ergreifen, um die illegalen Bilder von der Webseite entfernen zu lassen. Derzeit sind auch neue britische Gesetze2 in Vorbereitung, die KI-Tools zur Erstellung von Bildern sexualisierter Gewalt gegen Kinder und Jugendliche unter Strafe stellen sollen, und die IWF erklärt, dass diese Gesetzgebung „nicht früh genug kommen kann”.
KI-generierte Bilder und Videos von sexualisierter Gewalt gegen Kinder und Jugendliche sind nach deutschem Recht illegal, da das Strafgesetzbuch (§§ 184b, 184c StGB) auch virtuelle und computergenerierte Darstellungen umfasst. Anders als in manchen anderen EU-Mitgliedstaaten ist in Deutschland keine neue nationale Gesetzgebung erforderlich, da die bestehenden Vorschriften auch KI-generiertes Material abdecken.
Die IWF warnt jedoch davor, dass der derzeitige Ansatz des Rates der EU zur vorgeschlagenen Neufassung der Richtlinie über den sexuellen Missbrauch von Kindern eine äußerst besorgniserregende Lücke enthält, die in der Praxis dazu führen könnte, dass der Besitz von KI-generierten Bildern von sexualisierter Gewalt gegen Kinder und Jugendliche für den „persönlichen Gebrauch” in einigen Mitgliedstaaten nicht strafbar wäre – sofern diese keine strengeren nationalen Vorschriften erlassen.
Angesichts der laufenden Verhandlungen über die Gesetzgebung fordert die IWF den Rat nachdrücklich auf, seine Position an die des EU-Parlaments anzupassen, indem er die Ausnahme für den persönlichen Gebrauch von KI-generierten Bildern und Videos streicht und eine EU-weite Verpflichtung zur Kriminalisierung der Erstellung, des Besitzes und der Verbreitung von KI-Handbüchern und -Modellen für sexuellen Kindesmissbrauch einführt, damit diese Straftaten in allen Mitgliedstaaten gleichermaßen verfolgt werden.
IWF-CEO Kerry Smith sagt: „Leider müssen wir weiterhin beobachten, wie Fortschritte in der KI-Technologie schnell von Straftäter*innen für böswillige Zwecke ausgenutzt werden. Deshalb ist es von entscheidender Bedeutung, dass alle Formen des sexuellen Missbrauchs von Kindern im Internet unter Strafe gestellt und strafrechtlich verfolgt werden, unabhängig davon, wie sie erstellt wurden oder wo sie angesehen werden.
„Die Europäische Union macht zwar ermutigende Fortschritte bei der Bekämpfung neuer Straftaten mit der Richtlinie über den sexuellen Missbrauch von Kindern, aber es muss noch mehr getan werden, und zwar schneller. Deshalb fordern wir die rasche Verabschiedung der Neufassung der Richtlinie, um die Herstellung und Verbreitung von KI-generiertem Material über sexuellen Kindesmissbrauch in der gesamten EU unter Strafe zu stellen.
Es gibt keine Rechtfertigung für die Existenz solcher Websites oder für den Besitz solcher Inhalte durch Straftäter. Die Richtlinie ist die beste Chance für Europa, gefährliche Lücken zu schließen, die Kriminelle bereits ausnutzen.“
Die 17 Meldungen über KI-generiertes Material von sexualisierter Gewalt gegen Kinder und Jugendliche wurden zwischen dem 1. Juni und dem 7. August 2025 auf der Webseite identifiziert. Die Meldungen enthielten überwiegend (94 %) Bilder der Kategorie C – sexuelle Posen und Nacktheit – und zeigten überwiegend 11- bis 13-Jährige (82 %).Eine Meldung zeigte ein 7- bis 10-jähriges Kind.
Die Webseite bietet Nutzenden eine kostenlose, begrenzte Chat-Zeit, bevor sie ein Abonnement für den unbegrenzten Zugang zu KI-Chatbot-Charakteren anbietet. Sprachgespräche mit den Chatbots werden als „in Kürze verfügbar” beworben.
Analysten der IWF-Hotline sagen, dass die Webseite auf den ersten Blick legale Chatbot-Erlebnisse für Erwachsene zu bieten scheint. Nachdem sie jedoch Meldungen von besorgten Bürger*innen erhalten hatten, recherchierten die Analyst*innen genauer und fanden einen versteckten Bereich der Webseite, in dem das kriminelle Material zu sehen ist. Die IWF hat ihre Erkenntnisse an die Strafverfolgungsbehörden weitergeleitet.
Die Metadaten der kriminellen Bilder zeigen die Textanweisungen, die zur Erzeugung der Bilder verwendet wurden, und die Hotline-Analyst*innen sind der Meinung, dass die Anweisungen sehr klar auf die Absicht hinweisen, Bilder von sexualisierter Gewalt gegen Kinder und Jugendliche zu erstellen, und keinesfalls als unschuldig oder zufällig ausgelegt werden können.
Jeff3, Senior Internet Content Analyst bei der IWF, erläutert: „Unser erster Hinweis kam von einem Mitglied der Öffentlichkeit, aber zu diesem Zeitpunkt zeigte die Chatbot-Webseite hauptsächlich animierte Bilder im Manga-Stil von Erwachsenen und Kindern, und keines der Bilder war strafbar.
„Später fanden wir jedoch einen Link auf einer beliebten Social-Media-Plattform, der uns zu derselben Webseite führte, die nun deutlich andere und düsterere Inhalte zeigte. Diese waren fotorealistischer und enthielten Bilder von sexuellem Kindesmissbrauch.
„Wir glauben, dass es zwei Versionen der Webseite gibt und dass die illegalen Inhalte nur sichtbar werden, wenn man einem bestimmten Link folgt oder einen bestimmten Pfad von anderen Webseiten aus verfolgt. In beiden Fällen, dem legalen und dem kriminellen, bleibt die URL der Website unverändert.
„Leider ist es keine große Überraschung, dass KI-Chatbots auf diese Weise eingesetzt werden. Es scheint eine unvermeidliche Folge davon zu sein, wenn neue Technologien von den falschen Leuten „missbraucht” werden. Wir wissen, dass Straftäte*innen alle ihnen zur Verfügung stehenden Mittel einsetzen werden, um Material von sexualisierter Gewalt gegen Kinder und Jugendliche zu erstellen, zu teilen und zu verbreiten.”
Die IWF veröffentlichte im Juli neue Daten, aus denen hervorgeht, dass die Meldungen über KI-generierte Bilder von sexualisierter Gewalt gegen Kinder und Jugendliche in den ersten sechs Monaten dieses Jahres um 400 % gestiegen sind. Die Analyst*innen der IWF gingen gegen KI-generierte Bilder von sexuellem Kindesmissbrauch auf 210 Webseiten vor, verglichen mit 42 Webseiten im Jahr 2024.
Auch die Zahl der KI-generierten Videos stieg in diesem Zeitraum sprunghaft an: Zwischen Januar und Ende Juni dieses Jahres wurden 1.286 einzelne KI-Videos mit sexuellem Kindesmissbrauch gesperrt.
Von diesen bestätigten Videos mit sexuellem Kindesmissbrauch wurden 1.006 als die nach dem Gesetz extremsten Bilder (Kategorie A) eingestuft – Videos, die Vergewaltigungen, sexuelle Folter oder Sodomie zeigen können.
Kerry Smith fügte hinzu: „Durch KI generiertes Material sexuellen Kindesmissbrauchs ist kein Verbrechen ohne Opfer. Es handelt sich um sehr verstörende Bilder, und Untersuchungen zeigen, dass das Betrachten von Darstellungen sexualisierter Gewalt gegen Kinder und Jugendliche den sexuellen Missbrauch von Kindern normalisieren kann.
Wir wissen auch, dass in einigen Fällen vorhandene Bilder von sexuellem Kindesmissbrauch zum Trainieren von KI-Modellen verwendet wurden, wodurch das reale Trauma eines Opfers in synthetische Inhalte eingebettet wurde. Dies perpetuiert nur den Kreislauf des Leidens, den Opfer und Überlebende erleben.”
Lea Peters, Referentin für digitalen Kinderschutz bei ECPAT Deutschland e.V., sagt: „Auch wir sehen KI-generierte Darstellungen sexualisierter Gewalt gegen Kinder und Jugendliche als großes und akutes Problem.
KI-Chatbots, wie der von IWF gefundene, tragen zum schnellen Anstieg solch kriminellen Materials bei. Dadurch, dass sie offen im Netz zugänglich sind und schnell von Täter*innen gefunden werden können ist der Zugang sehr niedrigschwellig und es braucht kein spezialisiertes technisches Know-How zur Herstellung KI-generierter Darstellungen sexualisierter Gewalt.
KI-generierte Darstellungen sexualisierter Gewalt stellen zudem auch Strafverfolgungsbehörden vor neue Herausforderungen. Daher brauchen wir schnell eine effektive und harmonisierte Gesetzgebung in Europa, sodass zum einen eine rechtliche Sicherheit über die Illegalität solcher Darstellungen besteht und zum anderen die Strafverfolgungsbehörden entsprechend weitergebildet und adäquat ausgestattet werden.”
Hinweise für Redakteure:
1 KI-generierte Bilder von sexuellem Kindesmissbrauch sind im Vereinigten Königreich illegal. Der von uns bestätigte KI-generierte Missbrauch ist gemäß dem Protection of Children Act 1978 oder dem Coroners and Justice Act 2009 (für NPIs) strafbar.
2 Der Gesetzentwurf zu Kriminalität und Polizeiarbeit führt „einen neuen Straftatbestand ein, der KI-Modelle unter Strafe stellt, die für die Erstellung von Material über sexuellen Kindesmissbrauch optimiert wurden”. https://www.gov.uk/government/publications/crime-and-policing-bill-2025-factsheets/crime-and-policing-bill-child-sexual-abuse-material-factsheet
3 Der Name wurde geändert, um die Identität des Analysten zu schützen.