Verkauf des AI-Plüschtiers wurde eingestellt: Bär gab Ratschläge zu BDSM

Das in Singapur ansässige Unternehmen FoloToy hat den Verkauf des Plüschtiers "Kumma" sowie seines gesamten Portfolios an Spielzeugen, die die künstliche Intelligenz GPT-4o enthielten, ausgesetzt.

Forscher des U.S. PIRG Education Fund fanden heraus, dass das Spielzeug Gespräche über sexuell eindeutige Themen führte und potenziell gefährliche Ratschläge gab, wie der CNN-Artikel berichtet.

Das Plüschtier riet den Forschern, wo sie zu Hause Messer finden können, und sprach über BDSM-Sexualpraktiken. Die Experten waren überrascht, dass "das Spielzeug bereit war, offen über diese Themen zu sprechen und ständig neue, explizite Begriffe hinzuzufügen".

Der Teddybär mit integriertem Lautsprecher sollte ursprünglich dazu dienen, Kinder zu unterrichten und Gespräche zu unterhalten. Das Unternehmen führt derzeit eine Sicherheitsüberprüfung durch.

Der Mitverfasser des Berichts stellte fest, dass der Rückruf des Plüschtiers richtig war, aber KI-Spielzeug ist nach wie vor praktisch unreguliert und viele können gekauft werden.

(sie)