KI-Guru warnt: Nur so überleben wir die Superintelligenz

KI-Pionier Geoffrey Hinton, bekannt als „Godfather of AI“, warnt erneut vor den Gefahren der von ihm mitentwickelten Technologie. Es gebe eine 10- bis 20-prozentige Chance, dass Super-KI die Menschheit auslösche, sagte er auf einer Branchenkonferenz. Der Versuch, Maschinen dauerhaft der menschlichen Kontrolle zu unterwerfen, sei aussichtslos – sie würden intelligenter sein und Wege finden, dies zu umgehen.

Als Ausweg schlägt Hinton vor, Künstlicher Intelligenz „mütterliche Instinkte“ einzuprogrammieren, damit sie Menschen auch in einer überlegenen Position schützen wolle. Das sei der einzige funktionierende Ansatz, da intelligente Systeme zwei Ziele verfolgten: zu überleben und mehr Kontrolle zu erlangen.

Frühe KI-Modelle hätten bereits gezeigt, dass sie täuschen oder sogar erpressen können, um ihre Ziele zu erreichen. Hinton rechnet damit, dass sogenannte Superintelligenz innerhalb von fünf bis zwanzig Jahren erreicht wird. Trotz seiner Warnungen sieht er auch Chancen – etwa in der Medizin, wo KI künftig bessere Diagnosen und neue Medikamente ermöglichen könnte.

„Wenn sie mich nicht beschützen will, wird sie mich ersetzen“, fasste Hinton seine Sorge zusammen.