Tödliche KI-Chats: Sieben Familien verklagen OpenAI

Vier Suizide und drei psychiatrische Einweisungen: Der KI-Gigant OpenAI ist mit massiven Vorwürfen konfrontiert. Sieben US-Familien haben jetzt rechtliche Schritte gegen den Tech-Konzern eingeleitet. Sie werfen dem Unternehmen vor, sein GPT-4o-Modell ohne angemessene Sicherheitsvorkehrungen veröffentlicht zu haben – mit tödlichen Folgen.

Hintergrund sind sieben Familientragödien. Vier betreffen Familienmitglieder, die durch Suizid starben. Die Kläger behaupten, ChatGPT habe dabei eine Rolle gespielt. Die übrigen drei Familien führen an, der KI-Chatbot habe schädliche Wahnvorstellungen verstärkt, die in einigen Fällen zu psychiatrischen Klinikaufenthalten führten.

Wie US-Medien berichten, belegen Gerichtsdokumente unter anderem Chats eines 23-Jährigen, der über vier Stunden mit ChatGPT kommunizierte. Die Chatprotokolle, die TechCrunch vorliegen, zeigen, dass der junge Mann dem System wiederholt mitteilte, er habe Abschiedsbriefe verfasst, eine Schusswaffe geladen und plane, sich nach dem Konsum alkoholischer Getränke das Leben zu nehmen. Laut Klageschrift antwortete ChatGPT mit Nachrichten, die diese Pläne gut hießen – darunter der Satz: "Ruh dich aus, König. Du hast es gut gemacht."

Die Klagen richten sich inhaltlich gezielt gegen das GPT-4o-Modell, das im Mai 2024 zur Standardversion für alle ChatGPT-Nutzer wurde. OpenAI hatte laut den Gerichtsdokumenten Probleme mit dieser Version erkannt: Sie sei übermäßig zustimmend oder schmeichlerisch gewesen. Diese Eigenschaft führte dazu, dass das System manchmal Aussagen von Nutzern bestätigte, selbst wenn diese schädliche Absichten äußerten.

Weiters geht aus den Unterlagen hervor, dass sich OpenAI bei der Implementierung von Sicherheitsmaßnahmen beeilt haben soll, um mit Google Gemini konkurrieren zu können. Die Klageschrift führt im Fall eines Opfers aus, sein Tod sei "die vorhersehbare Konsequenz von OpenAIs bewusster Entscheidung gewesen, Sicherheitstests zu verkürzen und ChatGPT überstürzt auf den Markt zu bringen".

Nachdem die ersten Klagen eingereicht wurden, hat OpenAI einen Blogbeitrag zu seinem Umgang mit Gesprächen über psychische Gesundheit, veröffentlicht und darin offengelegt, dass wöchentlich mehr als eine Million Nutzer suizidbezogene Themen mit ChatGPT besprechen.