Mit KI gegen Kinderpornografie: EU-Gesetzentwurf ist keine “Chatkontrolle”, sondern Missbrauchsschutz

Das Thema der Bekämpfung des sexuellen Missbrauchs von Kindern ist aktuell nach wie vor so wichtig, dass es viel mehr in das Bewusstsein der Bürger kommen sollte. Was sich hier mittlerweile entwickelt hat, ist in seiner Brutalität nicht mehr zu übertreffen. Gerade die Kinder, die in der Regel ein Urvertrauen gegenüber den Erwachsenen, insbesondere aber gegenüber ihren Eltern haben, benötigen den besonderen Schutz der Gesellschaft, weil sie nicht erkennen können, wenn ihr Vertrauen von kriminellen Erwachsenen missbraucht wird. Anderseits ist es auch ein sehr schlimmes Zeichen unserer Gesellschaft, dass es immer wieder Menschen gibt, die teilweise aus krimineller Energie, teilweise aber auch weil sie selbst physisch krank sind, sich gegenüber Kindern und Jugendlichen vergehen. Auch diesen Personen muss durch geeignete Mittel geholfen werden, gegebenfalls müssen sie auch regelrecht „weggesperrt“ werden.

Es gibt auch Entwicklungen in unserer Gesellschaft, die sexuellen Kindesmissbrauch zumindest für manche relativieren könnten. Die sogenannte Reformpädagogik, hat das sexualisierte Verhalten zwischen Kindern und Erwachsenen durch ihr kruden Auffassungen so aufgewertet, dass hier die Grenzen in Richtung kriminellem Verhaltens verschwimmen. Hier gilt es, durch Aufklärung dieser Fehlentwicklung der Pädagogik zu begegnen.

Sabine Lembert hat in ihrem Artikel die intensiven Bemühungen der EU dargelegt, wie gegen den sexuellen Kindesmissbrauch mit Hilfe der sogenannten KI vorgegangen werden kann. Sie zeigt insbesondere auf, warum die Vorstellungen der EU nicht – wie befürchtet – das Persönlichkeitsrecht der Bürger unangemessen eingeschränkt wird. Sie führt aus, dass die vorgesehenen technischen Möglichkeiten, sexuellen Kindesmissbrauch im Internet zu erkennen, so  ausgereift sind, dass man diese auch einsetzen sollte, um endlich einen wirksamen Schutz für die Kinder durchsetzen zu können.

Wir veröffentlichen nachfolgend gern den Artikel von Sabine Lembert:

Vor rund anderthalb Jahren hat die EU-Kommission eine Verordnung zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern¹ vorgeschlagen, die über das Wohl oder Wehe zigtausender Betroffener entscheiden könnte. Denn es geht um die Bekämpfung von Kinderpornografie im Internet, die in den vergangenen Jahren exponentiell zugenommen hat. Der Gesetzesentwurf hat ein klares Ziel: Einheitliche Regeln für Social-Media-Plattformen, Gaming- sowie andere Hosting- und Online-Dienste einzuführen, und somit die rechtlichen Grundlagen für die Prävention, Ermittlung und Hilfe für Opfer sexuellen Missbrauchs in der EU zu verbessern. Denn Pädokriminelle filmen nicht nur ihre grausamen Taten, sondern teilen das Material auch im Internet – und das mit Vorliebe in der EU, da unsere hervorragende, technische Infrastruktur in Kombination mit strengen Datenschutzrichtlinien geradezu “erstklassige Standortbedingungen” bieten.

Kinderpornografische Inhalte im Internet: +500 Prozent seit 2017

So lässt es sich erklären, dass die Polizei allein in Deutschland im Jahr 2021 fast 40.000 Fälle aus dem Bereich Verbreitung, Besitz, Erwerb und Herstellung kinderpornografischer Inhalte erfasst hat – über 500 Prozent mehr als noch im Jahr 2017². Dabei handelt es sich wohlgemerkt nur um die Fälle, die “ans Tageslicht” gekommen sind. Die Dunkelziffer dürfte um ein Vielfaches höher liegen. Dabei muss man sich vergegenwärtigen, dass hinter jeder Tat das reale, unfassbare Leid eines Kindes steckt. So betrug die Zahl der Kinder, die allein in Deutschland Opfer von sexuellem Missbrauch wurden, im Jahr 2022 mehr als 17.700 polizeilich erfasste Fälle. Fast 2300 Opfer waren jünger als sechs Jahre alt.

Besonders erschreckend: Der Missbrauch wird anschließend von den Tätern auch noch medial “vermarktet”. Laut Daten der IWF (Internet Watch Foundation)³ machen selbst erstellte Bilder oder Videos inzwischen fast drei Viertel aller gemeldeten Inhalte aus, die Minderjährige sexualisieren. Dabei hat sich Europa zum “Hot Spot” für Kinderpornografie entwickelt. Im Jahr 2020 wurden 86 Prozent des von der IWF entdeckten Materials über sexuellen Kindesmissbrauch im Internet in Europa gehostet. Denn das Land bietet schlicht und einfach “sehr gute” technische sowie juristische Voraussetzungen.

IWF-Chefin Susy Hargreaves erklärte, dass die Verschiebung Richtung Europa damit zusammenhänge, dass die Internet-Anbieter in den USA inzwischen stärker kontrollierten und Kriminelle dadurch zwängen, sich anderswo anzusiedeln, wo es leichter sei, Inhalt hochzuladen und zu teilen. Ähnlich äußerte sich der Vertreter der amerikanischen Kinderschutzorganisation NCMEC, der auf schärfere Gesetze in den USA verwies, wo z.B. Big-Tech-Unternehmen wie Google, Meta und Microsoft Content freiwillig auf kinderpornografische Inhalte scannen. Und das mit einer hohen Erfolgsquote: 95 % aller Meldungen kommen zurzeit von einem einzigen Dienstleister: Meta (Facebook, Instagram, WhatsApp …). Es gibt Anhaltspunkte dafür, dass vergleichbare Missbrauchsraten bei anderen Internet-Dienstleistern vorkommen. Dies bedeutet, dass ein erheblicher Teil von online-CSA (Child Sexual Abuse) unentdeckt bleibt.

Warum der EU-Gesetzentwurf keine “Chatkontrolle” ist

Nach jahrelangem “Zusehen” der EU hat die Innenkommissarin Ylva Johansson im Mai 2022 schließlich einen Gesetzesentwurf auf den Weg gebracht, der „klare Verpflichtungen für Unternehmen, den Missbrauch von Kindern aufzudecken und zu melden“ vorsieht. Und zwar u.a. mithilfe von Künstlicher Intelligenz (KI) und unter Einbeziehung koordinierender Behörden, Europol und einem zu schaffenden EU-Zentrum.

Die zentralen Punkte der geplanten EU-Verordnung⁴ sind neben einer umfassenden Prävention und der Hilfe für Betroffene vor allem das: Aufdecken, Melden und Löschen von kinderpornografischem Material und Grooming.

 Zielsetzung:

 Mit dem EU-Legislativvorschlag soll festgelegt werden, wie und wann Dienstleister kinderpornografisches Material und „Grooming“ (die online-Annäherung von Täter an Opfer, z.B. über Chats) in den von ihnen betriebenen digitalen Räumen aufspüren und melden müssen.

Geplante Maßnahmen:

 Anbieter von u.a. Kommunikationsdiensten ermitteln, analysieren und bewerten zunächst für jeden von ihnen angebotenen Dienst das Risiko seiner Nutzung zum Zwecke des sexuellen Kindesmissbrauchs im Internet (Risikobewertung). Die anschließende Risikominderung der Diensteanbieter beinhaltet u.a. eine weitreichende Altersverifikation.

Nur unter bestimmten Voraussetzungen ist die Koordinierungsbehörde befugt, den Erlass einer Aufdeckungsanordnung zu beantragen, mit der ein Anbieter von Hostingdiensten oder ein Anbieter interpersoneller Kommunikationsdienste verpflichtet wird, Maßnahmen zu ergreifen, um sexuellen Kindesmissbrauch im Internet in einem bestimmten Dienst aufzudecken. Das bedeutet: Der Begriff einer allgemeinen “Chatkontrolle”, den Kritiker der geplanten EU-Verordnung gerne ins Feld führen, ist schlichtweg falsch. Denn jeder Antrag auf Erlass einer Aufdeckungsanordnung ist dreistufig und würde von verschiedenen Instanzen wie z.B. Justiz- und Datenschutzbehörden im Vorfeld eingehend geprüft werden.

Im Fall einer Aufdeckungsanordnung werden zudem der zeitliche Rahmen, die geplanten Maßnahmen, die Verhältnismäßigkeit, Schutzvorkehrungen und Berichterstattungspflichten definiert. Anbieter von Hostingdiensten und Anbieter interpersoneller Kommunikationsdienste, die eine Aufdeckungsanordnung erhalten haben, führen diese dann durch die Installation und den Betrieb von Technologien aus, mit denen die Verbreitung von bekannten oder neuen Darstellungen sexuellen Kindesmissbrauchs oder die Kontaktaufnahme zu Kindern mithilfe der entsprechenden vom EU-Zentrum bereitgestellten Indikatoren erkannt werden kann. Dabei gilt es, die bestmögliche Effizienz zu gewährleisten und das Recht der Nutzer auf Privatsphäre so wenig wie möglich zu beeinträchtigen.

Die Erkennung erfolgt deshalb ausschließlich nach Indikatoren für kinderpornografische Inhalte im Internet, die vom EU-Zentrum unter der Kontrolle der nationalen Strafverfolgungsbehörden vorgegeben werden. Nur wenn die Indikatoren auf sexuellen Missbrauch von Kindern hindeuten – z.B. auf einem Foto, in einem Video oder einem Gesprächsfragment (bei einer Kontaktaufnahme) – ist eine menschliche Überprüfung notwendig.

 KI-Technologie zur Aufdeckung kritischer Inhalte:

Werkzeuge zur Aufdeckung kritischer Inhalte können u.a. KI-Anwendungen wie Photo-DNA oder Algorithmen⁵ sein, die auf die Erkennung von Grooming “trainiert” sind.

Der Nachweis bekannter Inhalte auf Basis der Photo-DNA-Technologie funktioniert beispielsweise wie folgt:

Der Nachweis bekannter Inhalte auf Basis der Photo-DNA-Technologie funktioniert beispielsweise wie folgt:

1. Bilder, die nachweislich sexuellen Kindesmissbrauch zeigen, werden in einen eindeutigen, unumkehrbaren digitalen Code, einen „Hash“ aus 144 Ziffern, umgewandelt, der in einer Datenbank gespeichert wird.
2. Wenn ein Bild digital weitergegeben wird, kann sein Hash generiert und mit dem Hash in der Datenbank verglichen werden.
3. Ein Bild wird nur dann gekennzeichnet, wenn der Hash-Wert mit dem von zuvor identifiziertem Material zum sexuellen Missbrauch von Kindern übereinstimmt.

Wichtig ist dabei, dass die KI-Technologie die Privatsphäre wahrt und nur Material mit sexuellem Kindesmissbrauch aufspürt – vergleichbar mit einem Antivirusprogramm, das nur Malware erkennt.

Die Erkennung neuer Inhalte und Grooming erfolgt bereits mit Tools wie dem Safer Tool von Thorn, Googles Content Safety API, Facebooks KI-Technologie und Microsofts Project Artemis.

Diese Technologien stützen sich auf Intelligenz-Klassifikatoren und Algorithmen, die anhand

einer Datenbank mit bestätigten Fällen von sexuellem Missbrauch an Kindern trainiert werden, bis sie lernen, sehr ähnliche Inhalte zu identifizieren. Und das mit einer Genauigkeitsrate von bis zu 99,9 %.

Digitale Werkzeuge schützen Ermittler und entlarven Täter

Bei der Aufdeckung von Kinderpornografie im Internet haben es Ermittler heute mit Petabyte an Datenmaterial zu tun. Zum einen handelt es sich dabei um Mengen, die mit menschlichen Ressourcen schon längst nicht mehr gesichtet – geschweige denn strafrechtlich verfolgt – werden können. Zum anderen sind die dargestellten, kinderpornografischen Inhalte für die Ermittler oft eine extreme, psychische Belastung.

Mit den geschilderten Maßnahmen aus dem EU-Gesetzentwurf und zusätzlichen Ressourcen könnte die Strafverfolgungsgemeinschaft schneller und effizienter ermitteln, um mehr Kinder vor Missbrauch zu bewahren. Dieser Ansicht ist auch Europol. Auf die Frage von Patrick Breyer – Europaabgeordneter und selbsternannter “digitaler Freiheitskämpfer” gegen die “Chatkontrolle” – für welche Zwecke zusätzliche Kapazitäten (zum Aufdecken von Kinderpornografie im Internet) am dringendsten benötigt würden, erklärte die Polizeibehörde in einer Stellungnahme⁶: “Forensische Fähigkeiten sind entscheidend, um die große Menge an Material über Kindesmissbrauch rechtzeitig zu identifizieren. Dazu gehört auch die Fähigkeit, Werkzeuge für das maschinelle Lernen zu entwickeln und einzusetzen, um die Daten zu analysieren, die auch den Kampf gegen die sexuelle Ausbeutung von Kindern unterstützen könnten.”

Quellen:

¹https://home-affairs.ec.europa.eu/whats-new/communication-campaigns/legislation-prevent-and-combat-child-sexual-abuse_de
²https://www.justiz.bayern.de/presse-und-medien/pressemitteilungen/archiv/2022/210.php

³https://zahlen.beauftragte-missbrauch.de/digitale-sexuelle-gewalt/

https://annualreport2021.iwf.org.uk/

https://home-affairs.ec.europa.eu/whats-new/communication-campaigns/legislation-prevent-and-combat-child-sexual-abuse/frequently-asked-questions_de

⁴https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=COM%3A2022%3A209%3AFIN

⁵https://home-affairs.ec.europa.eu/system/files/2023-06/CSA%20technology%20infographic_en.pdf