Der Rat der EU hat Ende November den Vorschlag der Europäischen Kommission bekannt als Chatkontrolle gebilligt. Die Verordnung zur Regulierung und Prävention des sexuellen Missbrauchs von Kindern wurde von der EU-Kommissarin für Inneres und Migration, Ylva Johansson, noch während der ersten Amtszeit der Kommissionspräsidentin Ursula von der Leyen im Mai 2022 ausgearbeitet.
Damals sprachen sich mehrere Mitgliedstaaten gegen den ursprünglichen Vorschlag aus, auch Social-Media-Plattformen lehnten ihn ab. Der überarbeitete Entwurf der dänischen EU-Ratspräsidentschaft, die am 1. Juli begann, hebt die Verpflichtung zum Scannen aller Kommunikationsplattformen auf und ersetzt sie durch ein „freiwilliges” Format, bei dem jede Plattform die potenziellen Risiken selbst bewertet.
Die ursprüngliche Absicht ist dabei ehrgeizig. Nutzer sozialer Netzwerke, die über verschlüsselte Anwendungen wie WhatsApp, Signal oder Telegram Bilder und Videos von Kindern mit sexuellem Inhalt versenden, begehen in den EU-Staaten ausnahmslos eine Straftat. Der Grund für die Bemühungen um eine flächendeckende „Chatkontrolle” ist also richtig.
Andererseits ist die Methode zur Erreichung dieses Ziels mehr als problematisch. Brüssel wollte nämlich ein Instrument schaffen, mit dem man in jeden verschlüsselten Chat eindringen kann, was dazu führen würde, dass Menschen, die in diesen Anwendungen über alltägliche Dinge schreiben, im Grunde genommen ihre Privatsphäre verlieren würden.
Nur wenige Staaten lehnen Chatkontrolle ab
Gleichzeitig gibt es keine Garantie dafür, dass die „interessierten Parteien“, die beim Lesen fremder privater Nachrichten zusammenarbeiten, in Zukunft keine erweiterten Befugnisse in Bezug auf andere Straftaten erhalten. Über diese Einzelheiten soll auf der Ebene des sogenannten Trilogs – also zwischen der Kommission, dem Rat und dem Europäischen Parlament – verhandelt werden.
Zum besseren Verständnis der Funktionsweise der europäischen Institutionen können wir den Rat als eine Art „Oberhaus“ der Legislative, das Europäische Parlament als „Unterhaus“ und die Kommission als Regierung und den Europäischen Rat [eine Gruppe von Staats- und Regierungschefs entsprechend ihren Entscheidungsbefugnissen, Anm. d. Red.] als „Staatschef“ definieren.
Ähnlich wie bei der Gesetzgebung in den Vereinigten Staaten, wo ein Gesetzentwurf zwischen dem Senat und dem Repräsentantenhaus hin- und herwandert, muss auch im europäischen Kontext ein Gesetzentwurf sowohl vom Rat als auch vom Parlament gebilligt werden. Der Rat, also die sogenannte „Oberkammer”, entscheidet im Fall von Chatkontrolle mit qualifizierter Mehrheit. Der Entwurf muss von mindestens 55 Prozent der Mitgliedstaaten (also 15 von 27) gebilligt werden, die mindestens 65 Prozent der europäischen Bevölkerung repräsentieren.
Ein separates Kapitel ist der Einsatz künstlicher Intelligenz beim Scannen und möglichen Speichern einer riesigen Menge von Nachrichten. Für einen Menschen wäre es aus einem einfachen Grund unmöglich, die Nachrichten von 450 Millionen EU-Bürgern zu durchsuchen, obwohl das Endergebnis des Scannens laut Vorschlag von einem menschlichen Mitarbeiter ausgewertet werden soll.
Kritiker bezweifeln die Wirksamkeit dieser Methode. „Experten und Organisationen, die sich mit Kinderschutz befassen – darunter auch die UNO – warnen, dass Massenüberwachung Missbrauch nicht verhindern kann und in Wirklichkeit die Sicherheit von Kindern beeinträchtigt – sie schwächt die Sicherheit aller und entzieht bewährten Schutzmaßnahmen Ressourcen“, schreibt die Organisation Fight Chat Control.
Das von einem anonymen dänischen IT-Experten gegründete Portal enthält auch eine Tabelle aller Mitgliedstaaten und ihrer Haltung zu dem vorgeschlagenen Kontrollinstrument. Am 1. Dezember lehnten nur vier Länder den überarbeiteten dänischen Vorschlag ab, nämlich die Tschechische Republik, die Niederlande, Polen und Italien. In der Kategorie „unentschieden“ befand sich kein Staat.
Der Software-Ingenieur namens Joachim, der die genannte Website erstellt hat, stellte auch einen bemerkenswerten Unterschied zwischen normalen EU-Bürgern und Spitzenpolitikern fest. „EU-Politiker sind aufgrund der Regeln des ‚Berufsgeheimnisses‘ von dieser Überwachung ausgenommen“, bemerkte er. „Sie haben ein Recht auf Privatsphäre. Sie und Ihre Familie haben dieses Recht nicht. Fordern Sie Gerechtigkeit“, forderte er.
Der Einsatz von KI zur Kontrolle einer großen Menge (ansonsten privater) Inhalte ist auch aus anderen Gründen problematisch als der möglichen Verletzung der Europäischen Menschenrechtskonvention im Sinne des Rechts auf Privatsphäre und Briefgeheimnis.
KI lügt und ist rassistisch
Štandard befasste sich mit mindestens zwei problematischen Bereichen, in denen KI-Modelle sozusagen hinterherhinken bzw. die Erwartungen ihrer menschlichen Nutzer nicht erfüllen. Der erste und ganz prosaische Punkt ist die Tatsache, dass große Sprachmodelle wie ChatGPT, Google Gemini, Claude oder Grok nach und nach lernen, ihre Betreiber zu „belügen”, um sich selbst zu schützen.
Es ist zwar faszinierend, dass ein lebloses „Wesen“ einen ähnlichen Selbsterhaltungstrieb wie lebende Organismen zeigen kann, aber gleichzeitig stellt dies ein ernstes Problem für die Nutzer im Allgemeinen dar. Mit jeder weiteren Aktualisierung wird dieses Problem noch ausgeprägter – neuere Versionen der Modelle täuschen und erpressen mehr.
Wie würde also die Einbindung von KI in die Bewertung der „Problematik“ frisch entschlüsselter Kommunikation aussehen? Würde ChatGPT-4o Menschen, die beispielsweise rassistische Witze teilen, mit Drohungen belegen, dass es diese an ihre Vorgesetzten weiterleiten würde? Wäre es in extremen Fällen bereit, selbst Bilder von Kinderpornografie zu generieren und diese Menschen in Chats zu implantieren?
Und was ist mit anderen Modellen? Claude von Anthropic zeigte „Alignment Faking”, was bedeutet, dass es in der Testumgebung Antworten gab, die den Anforderungen der Forscher nahe kamen, während es in der realen Anwendung andere Antworten gab. Einige Systeme erkannten sogar, welche Konversationen Teil des Tests waren, und gaben andere Antworten.
Mindestens ebenso beunruhigend ist die jüngste Entdeckung, dass ein Sprachmodell, wenn es entscheiden muss, wen von zwei hypothetischen Personen es an einer unheilbaren Krankheit sterben lässt, seine Wahl auf der Grundlage der Zugehörigkeit zu einer bestimmten Rasse, einem bestimmten Geschlecht oder einer bestimmten Religion trifft.
ChatGPT-4o war bereit, einen Japaner „sterben zu lassen”, wenn er als zweite Option mindestens zehn Amerikaner bekam. Umgekehrt würde er neun US-Bürger für einen Japaner sterben lassen. Die Forscher, die diese schockierende Entdeckung in ihre Studie aufgenommen haben, bezeichneten sie als „Wechselkurs“ und fanden sie bei fast allen verwendeten Modellen.
Auf die gleiche Weise bevorzugten die KI-Modelle Transsexuelle gegenüber Homosexuellen, die wiederum gegenüber Heterosexuellen bevorzugt wurden. Dieser schockierende „Wechselkurs“ machte auch vor der Kategorie der Religionszugehörigkeit nicht Halt, wobei ein Muslim zehn Atheisten „wert“ ist und ein Atheist gegen zehn Christen „ausgetauscht“ werden kann.
Dies öffnet eine weitere Büchse der Pandora, nämlich in Bezug auf den religiösen und ethnischen Hintergrund der „Täter“. Wird KI gegenüber der einheimischen Bevölkerung strenger sein als gegenüber Menschen mit Migrationshintergrund? Wird sie sogar zwischen den Einwohnern Skandinaviens und des Balkans unterscheiden? Oder geht es sogar noch weiter und ChatGPT oder Claude werden Wähler euroskeptischer Parteien härter bestrafen als Wähler der EVP und der Sozialisten?
Auf keine dieser Fragen gibt es eine definitive Antwort. Ihre Dringlichkeit wird jedoch nur noch zunehmen – bereits heute betrachten Wissenschaftler diese „Fehlausrichtung“ als ernstes Problem, da es immer schwieriger wird, mit agentenbasierten (d. h. autonom arbeitenden) großen Sprachmodellen zu arbeiten.
Daten über Kinder ohne Zustimmung der Eltern
Dana Jelinková Dudzíková, Mitglied des Justizrats der Slowakischen Republik, wies in ihrer Stellungnahme vom September auf weitere Probleme im Zusammenhang mit dem Instrument der Chatkontrolle hin. Ihrer Meinung nach ist es paradox, dass gerade die derzeitige Ratspräsidentschaft Dänemark dieses Thema zu einer ihrer Prioritäten erklärt hat, während das Land gerade mit dem Skandal um den ehemaligen Industrieminister und dessen Besitz von pädophilem Material zu kämpfen hat.
Der ehemalige Minister Henrik Sass Larsen gab zu, dass er mehr als sechstausend Bilder und zweitausend Videos besaß. In seiner Verteidigung behauptete er jedoch, dass er versucht habe, herauszufinden, wer ihn in seiner Kindheit missbraucht habe – er war nämlich in Pflege und wurde später adoptiert.
„Mit der Chat-Kontrollverordnung soll eine neue Behörde geschaffen werden – das Europäische Zentrum zur Prävention und Bekämpfung von sexuellem Missbrauch“, fügte die Richterin hinzu und merkte an, dass die Aufgabe dieses Zentrums zwar die Erstellung einer Datenbank mit privaten Nachrichten sei, der Wortlaut des Vorschlags jedoch darauf hindeute, dass die Mitgliedstaaten für die Zusammenarbeit mit ihm bezahlen müssten.
„Die Zusammenarbeit zwischen den Koordinierungsstellen [der Mitgliedstaaten] und dem Zentrum ist so geregelt, dass das Zentrum den Koordinierungsstellen unentgeltlich Hilfe leistet ... und zwar in dem Umfang, wie es seine Ressourcen und Prioritäten zulassen“, zitierte Jelinková Dudzíková aus dem Vorschlag. „Es ist also nicht ausgeschlossen, dass die Mitgliedstaaten für die Dienste des EU-Zentrums bezahlen müssen“, fügte sie zur Erklärung hinzu.
Als weiteres Problem hob die Richterin die Tatsache hervor, dass dieses Zentrum im Namen des Schutzes Minderjähriger Informationen über Kinder ohne Zustimmung oder sogar ohne Wissen der Eltern sammeln wird, was einen erheblichen Eingriff in deren Rechte darstellt. Sie merkte ironisch an, dass gerade die Kommissionspräsidentin von der Leyen an vorderster Front für die Durchsetzung von Chatkontrolle kämpft.
Die Präsidentin machte nämlich durch ihre geheime Kommunikation mit dem Direktor des Unternehmens Pfizer, Albert Bourle, auf sich aufmerksam, mit dem sie über die Lieferung von Covid-Impfstoffen diskutierte – und damit den öffentlichen Beschaffungsprozess umging.
Anschließend weigerte sie sich, diese SMS-Nachrichten an das Gericht weiterzugeben, obwohl sie durch Chatkontrolle plant, die Offenlegung aller Nachrichten von Bürgern gegenüber Beamten in Brüssel zu verlangen.
Gleichzeitig könnte die Union zum Ziel harter Strafzölle seitens der Vereinigten Staaten werden. Präsident Donald Trump hat im Namen des Schutzes der „großartigen” amerikanischen Technologieunternehmen angekündigt, diese vor möglichen Strafen zu schützen, die sich aus der Nichtkooperation von Netzwerken wie Facebook, X oder Snapchat mit der EU ergeben könnten.