Brüssel befasst sich seit einiger Zeit intensiv mit dem Thema Kindesmissbrauch im Internet. Eine obligatorische flächendeckende Kontrolle der Nachrichten der Europäer ist offenbar endgültig vom Tisch, da sich mehrere Mitgliedstaaten dagegen ausgesprochen haben. Auf dem Tisch und kurz vor der endgültigen Verabschiedung steht nun eine „freiwillige” Überwachung durch Plattformen, zu der die Union mit Geldstrafen motivieren will.
Technologieunternehmen werden in der Praxis verpflichtet sein, das Risiko des Kindesmissbrauchs auf ihren Plattformen zu bewerten und Maßnahmen zur Risikominderung zu ergreifen. Wenn diese als unzureichend bewertet werden, drohen ihnen hohe Geldstrafen, die bei großen Unternehmen bis zu Milliardenbeträgen (sechs Prozent des Umsatzes) reichen können.
Der Einsatz von flächendeckendem Scannen mit künstlicher Intelligenz ist somit der einfachste Weg, um nachzuweisen, dass sie alles in ihrer Macht Stehende tun, um das Risiko zu verringern.
Es stellt sich erneut die Frage, ob der Schutz von Kindern vor Missbrauch den Verlust der Privatsphäre der Unionsbürger rechtfertigt und ob man sich in dieser Hinsicht auf künstliche Intelligenz verlassen kann.
Beginnen wir jedoch mit der anderen Seite.
Was spricht für die Überprüfung von Nachrichten?
Die europäischen Behörden stützen sich bei ihrer Argumentation für die umstrittene Gesetzgebung auf bedrohlich wirkende Statistiken. Im vergangenen Jahr erhielt das Nationale Zentrum für vermisste und missbrauchte Kinder (NCMEC) von Technologieunternehmen weltweit rund 20 Millionen Meldungen über den Verdacht auf sexuellen Missbrauch von Minderjährigen im Internet.
Obwohl dies gegenüber 2023 ein deutlicher Rückgang von mehr als 36 Millionen ist, versucht das NCMEC seit letztem Jahr, einen größeren Schwerpunkt auf die Identifizierung und Verfolgung einzelner Kinder und Täter zu legen. Mehrere Plattformen haben daher die Art und Weise geändert, wie Vorfälle gemeldet werden – vereinfacht gesagt, wenn es sich um dasselbe Foto handelt, wird es nicht mehr bei jedem Teilen gemeldet, sondern nur noch im Rahmen eines einzigen Falls. Das NCMEC selbst bemüht sich ebenfalls um die Deduplizierung von Meldungen über identisches Material aus verschiedenen Plattformen.
Würde man die Methodik aus dem Jahr 2023 fortsetzen, hätte es im vergangenen Jahr etwa 29 Millionen verdächtige Meldungen gegeben.
Es gibt jedoch mehrere Arten des Missbrauchs von Kindern im Online-Umfeld. Die größte Kategorie innerhalb der genannten Statistik bilden Meldungen über die Erstellung und Verbreitung von Bildmaterial, das den sexuellen Missbrauch von Kindern zeigt, von Fotos und Videos bis hin zu Live-Streams.
Ein neuer Trend in dieser Hinsicht sind Videos mit Kinderpornografie, die mit künstlicher Intelligenz erstellt wurden. Die Zahl der Meldungen stieg von knapp 5.000 im Jahr 2023 auf 67.000 im letzten Jahr. Auch wenn es sich um Fiktion handelt, kann die freie Verbreitung solcher Materialien potenzielle Täter zu Taten in der realen Welt ermutigen.
Die Daten des NCMEC umfassen jedoch neben Fotos und Videos auch Meldungen von Fällen, in denen jemand über intime Materialien des Opfers verfügt (oder dies vorgibt) und dem Opfer mit deren Veröffentlichung droht, was im modernen Sprachgebrauch unter dem englischen Begriff „Sextortion” definiert wird.
Darüber hinaus werden auch Chats von Erwachsenen mit Kindern gemeldet, bei denen der Verdacht besteht, dass sie versuchen, sich anzunähern, intime Fotos oder Videos zu versenden oder Minderjährige zu einem persönlichen Treffen zu verleiten (engl. „grooming“).
Es sei hinzugefügt, dass in den meisten Statistiken Kinder als Personen unter 18 Jahren definiert werden.
Millionenangaben sind umstritten
Bei den oft zitierten Statistiken ist es jedoch wichtig zu berücksichtigen, was genau sie beschreiben. Es handelt sich um Millionen von Meldungen über verdächtige Kommunikationen oder audiovisuelle Materialien. Die wichtigen Wörter im vorigen Satz sind „verdächtige“ und „Meldungen“.
Im Vergleich zur Vergangenheit wird Kindesmissbrauch heute sehr sensibel wahrgenommen. Das ist durchaus berechtigt und richtig, aber in diesem Zusammenhang muss man damit rechnen, dass ein Teil der gemeldeten Verdachtsfälle einfach „statistisch falsch” ist.
Sie können die Kommunikation und das Teilen von Fotos (auch Nacktfotos) von Kindern zwischen Familienmitgliedern, beispielsweise aus dem Urlaub am Meer, erfassen. Oder die Unterhaltung von Menschen mit unangemessenem Humor, was zwar moralisch nicht korrekt sein mag, aber weit entfernt von „Online-Pädophilie“ ist.
Technologieunternehmen wie Meta oder Google investieren in den letzten Jahren massiv in künstliche Intelligenz bzw. fortschrittliche Algorithmen, die Verdachtsfälle automatisch erkennen und melden, aber nicht genau sind.
Genau das ist eines der Hauptargumente gegen die geplante europäische Gesetzgebung – selbst wenn künstliche Intelligenz zu 100 % erfolgreich bei der Erkennung problematischer Bildmaterialien und der Kommunikation echter Täter mit ihren Opfern wäre, sagt das nichts über falsch positive Ergebnisse aus, wenn das System fälschlicherweise ein künstlerisches Foto, ein Arztgespräch, einen Scherz der Eltern oder ein Bild von schlechter Qualität als verdächtig einstuft.
Dies kann dann möglicherweise dazu führen, dass unschuldige Menschen von der Polizei überprüft werden und es zu Verwicklungen oder Rufschädigungen kommt.
Kehren wir jedoch zu den Daten des NCMEC zurück. Selbst nach vollständiger Bereinigung aller falschen Meldungen und doppelten Vorkommen desselben Materials ist die resultierende Zahl kein Hinweis auf die Anzahl der Täter und Opfer, da es mehrere Fotos oder Videos von einem einzigen Verbrechen geben kann.
Genau darauf konzentriert sich die Internet Watch Foundation (IWF), die versucht, verschiedene Materialien (keine Meldungen) zu einzelnen Fällen von Kindesmissbrauch im Online-Umfeld zusammenzufassen.
Ihre Statistiken sind daher auch viel niedriger [eine Rolle spielt auch, dass sie zwar selbst aktiv nach problematischem Material sucht und nicht nur Meldungen entgegennimmt, diese aber „nur” aus etwa 50 Ländern stammen, Anm. d. Red.]. Andererseits haben sie einen höheren Aussagegehalt.
Nach eigenen Angaben hat die Organisation im vergangenen Jahr mehr als 424.000 Meldungen geprüft und in mehr als 290.000 Fällen, in denen sie strafbare Inhalte festgestellt hat, Maßnahmen ergriffen.
Diese visuellen Materialien werden nach verschiedenen Kategorien und Merkmalen sortiert. Sie führt beispielsweise eine erschreckende Statistik an, wonach die mit Abstand meisten Kinderopfer auf Fotos oder Videos im Alter von 7 bis 13 Jahren zu sehen waren.
Fälle, in denen es sich bei den gemeldeten Materialien um zwei chattende Jugendliche handeln könnte, die sich pikante Fotos schicken, von denen einer volljährig und der andere minderjährig ist, sind daher minimal.
Die schwerwiegendsten Materialien, die penetrative sexuelle Handlungen zeigen, bestätigte die Institution mit etwa 60.000. Eine ähnliche Anzahl von Dateien enthielt andere sexuelle Praktiken wie Masturbation oder Petting (erotisches Streicheln). Die meisten Fälle (166.000) enthielten andere unangemessene Aufnahmen von Minderjährigen.
Unabhängig von den Zahlen handelt es sich um ein Problem. Die Lösung ist nicht das Auge des Großen Bruders
Aus dem oben genannten Vergleich geht hervor, dass es nicht so viele Fälle von Kindesmissbrauch im Internet gibt, wie es den Anschein haben mag. Bei der Präsentation von Statistiken durch Medien oder Politiker muss daher immer klar sein, was die Daten genau aussagen, da sie oft manipulativ eingesetzt werden, um politische oder ideologische Ziele leichter zu erreichen.
Jedem muss jedoch klar sein, dass dies kein Grund ist, den Schutz von Kindern im Internet zu vernachlässigen oder nicht mehr anzustreben. Unabhängig von der Anzahl der Fälle handelt es sich um ein ernstes Problem, das sowohl auf politischer Ebene als auch in Familien und Bildungseinrichtungen angegangen werden muss.
Eine massenhafte Überprüfung aller Bürger, die mit dem Risiko der Weitergabe oder des Verkaufs sensibler Informationen an Dritte verbunden ist, ist jedoch keine gute Lösung.
Wenn die flächendeckende Überwachung der Kommunikation zur Norm wird und Internetplattformen über integrierte Mechanismen zur Überprüfung ihrer Nutzer verfügen, ist es nur eine Frage der Zeit, bis ein politischer oder ideologischer Auftrag zu ihrer anderweitigen Nutzung erteilt wird. Zum Beispiel zum Sammeln von Informationen oder zum Blockieren und Ausschalten derjenigen, die nicht in das System passen. Dies ist ein Weg zur Zentralisierung der Macht, was, wie wir aus der Geschichte wissen, gefährlich ist.
Die Risiken aller Vorschläge, die Brüssel derzeit auf dem Tisch hat, sind daher immer noch zu groß. Wenn wir unsere Kinder vor den Gefahren des Internets schützen wollen, sollten wir dafür sorgen, dass sie erst dann Zugang zu problematischen Plattformen erhalten, wenn sie alt genug sind. So wie es Australien bereits tut.