Google schließt Vergleich mit Mutter: Sohn hatte nach Chatbot-Kommunikation Suizid begangen
Der Technologieriese Google und das KI-Startup Character.AI haben sich mit der Mutter eines Jungen, der nach der Kommunikation mit einem Chatbot Selbstmord begangen hat, auf einen außergerichtlichen Vergleich geeinigt. Laut der Klage soll der 14-jährige Sewell Setzer durch einen Chatbot, der eine Figur aus der beliebten Fantasy-Serie Game of Thrones verkörperte, zu seiner Tat angestiftet worden sein.
Dieser Fall war einer der ersten in den USA, in dem ein Unternehmen, das künstliche Intelligenz einsetzt, wegen psychischer Vernachlässigung des Jugendschutzes angeklagt wurde.
Obwohl die Bedingungen der Vereinbarung nicht bekannt sind, stellt die Einigung einen wichtigen Präzedenzfall dar – Unternehmen, die mit KI arbeiten, stehen unter zunehmendem Druck, sicherzustellen, dass ihre Produkte kein Risiko für die psychische Gesundheit von Kindern darstellen.
(reuters)