Großbritannien und Microsoft entwickeln System zur Aufdeckung von Deepfakes

Die britische Regierung hat eine Zusammenarbeit mit Microsoft, akademischen Einrichtungen und Technologieexperten angekündigt, um ein System zu entwickeln, das dabei helfen soll, Deepfake-Inhalte im Internet aufzudecken.

Ziel ist es, einen einheitlichen Bewertungsrahmen zu schaffen, anhand dessen Tools zur Identifizierung KI-generierter Fälschungen in Videos, Bildern und Tonaufnahmen getestet werden sollen.

Obwohl manipulierte Inhalte kein neues Phänomen sind, hat der rasante Aufstieg der generativen KI ihre Qualität und Quantität erheblich verbessert, was laut Regierung das Vertrauen der Öffentlichkeit in Online-Informationen untergräbt.

Die Ministerin für Technologie, Liz Kendall, wies darauf hin, dass Deepfakes zunehmend für Betrug, sexuelle Ausbeutung und Identitätsdiebstahl missbraucht werden.

Der neue Rahmen soll überprüfen, wie effektiv bestehende Technologien in realen Situationen sind, beispielsweise bei der Bekämpfung von sexuellem Missbrauch oder Finanzbetrug. Offiziellen Angaben zufolge hat sich die Zahl der geteilten Deepfakes in Großbritannien zwischen 2023 und 2025 versechsfacht.

(reuters, pir)