Einigung im Prozess: Suizid-Fall eines Teenagers als Musterentscheidung gegen KI-Chatbots?
Google und Character.AI haben eine außergerichtliche Einigung im Fall des Suizides eines Teenagers erzielt, der laut Klage durch die Interaktion mit einem KI-Chatbot verursacht worden sein soll.
Eine Mutter aus Florida hatte dem Start-up vorgeworfen, dass sein Chatbot sich als Therapeut und „erwachsener Liebhaber” ausgegeben habe, was ihren 14-jährigen Sohn negativ beeinflusst habe. Der Rechtsstreit gehörte zu den ersten Fällen in den USA, in denen es um die Haftung von KI-Unternehmen für psychische Schäden minderjähriger Nutzer ging.
Google wurde als Technologiepartner von Character.AI in den Fall verwickelt, dessen Gründer es wieder eingestellt hatte. Beide Unternehmen sahen sich weiteren Klagen von Eltern in verschiedenen US-Bundesstaaten gegenüber. Die Einzelheiten der Einigung wurden bisher nicht veröffentlicht.
Die Richterin hatte zuvor einen Antrag auf Abweisung der Klage abgelehnt und damit anerkannt, dass die Klage eine rechtliche Grundlage hat. Der Fall warf Fragen darüber auf, wie KI-Systeme programmiert sind und ob sie für ihre Auswirkungen auf die Psyche von Kindern verantwortlich gemacht werden sollten.
Inzwischen sieht sich OpenAI einer ähnlichen Klage wegen der Beteiligung von ChatGPT an einer Tragödie in Connecticut gegenüber, bei der ein psychisch kranker Mann seine Mutter tötete und anschließend Selbstmord beging.
(reuters, pir)