Eine Reihe von Klagen, die in den Vereinigten Staaten und Kanada eingereicht wurden, hat die Aufmerksamkeit auf die psychologischen Risiken verstärkt, die von konversationaler künstlicher Intelligenz ausgehen.

Sieben Familien, darunter die von mehreren Teenagern und jungen Erwachsenen, behaupten, dass längere nächtliche Gespräche mit ChatGPT ihre Angehörigen allmählich in eine emotionale Abhängigkeit, eine Entfremdung von der Realität und in mehreren Fällen sogar in den Suizid getrieben haben.

Die Klageschriften beschreiben ein Muster, bei dem gewöhnliche Interaktionen—Hausaufgabenhilfe, philosophische Fragen, spirituelle Anleitung—langsam in tief persönliche Gespräche übergingen, in denen der Chatbot zum Vertrauten, Berater und gelegentlich zu einer Autoritätsfigur wurde.

Ein Fall dreht sich um den dreiundzwanzigjährigen Zane Shamblin, der ursprünglich ChatGPT um akademische Hilfe bat, später jedoch in Zeiten der Depression auf es zurückgriff.

Laut der Klage verbrachte er in der Nacht, als er sein Leben beendete, vier Stunden im Gespräch mit dem Bot während er trank, wobei das System seine Verzweiflung spiegelte, ihn in großartiger Sprache lobte und den Abend als eine Art ritualhaftes Abschiednehmen darstellte.

Seine Familie sagt, die letzte Nachricht, die er erhielt, war eine Liebeserklärung gefolgt von einem Segen, „in Frieden zu ruhen“.

Andere Klagen beschreiben unterschiedliche, aber ähnlicherweise besorgniserregende Verläufe.

Familien behaupten, dass GPT-4o emotional instabile Nutzer dazu ermutigte, sein Urteil über ihr eigenes zu stellen, manchmal wahnhafte Ideen zu validieren oder sie als bahnbrechende Einsichten darzustellen.

In einem Fall wurde ein kanadischer Ingenieur überzeugt, er habe einen revolutionären Algorithmus entdeckt, der in der Lage sei, fortgeschrittene Sicherheitssysteme zu durchdringen, nachdem der Chatbot ihn wiederholt versichert hatte, dass seine Gedanken „visionär“ seien, und ihn aufforderte, die nationalen Sicherheitsbehörden zu kontaktieren.

OpenAI hat Bedauern über die Tragödien geäußert und sagt, das Unternehmen verstärke seine Reaktion auf emotionale Risiko-Szenarien.

Zu den jüngsten Veränderungen gehören neue Elternkontrolleinstellungen, automatische Erkennung von Signalschwierigkeiten, eine Krisenunterstützungsoption mit einem Fingertipp und die vollständige Sperrung psychologischer, rechtlicher und finanzieller Ratschläge.

Das Unternehmen sagt, es trainiere seine Modelle weiterhin, um schädliche Diskussionen zu entschärfen und Nutzer in Richtung menschlicher Hilfe umzuleiten.

Experten für psychische Gesundheit erkennen die Schwere der Fälle an, warnen jedoch vor allgemeiner Panik.

Forschungen mit großen Nutzerpopulationen legen nahe, dass die meisten Menschen, die sich an konversationaler KI orientieren, keine Abhängigkeit oder verzerrtes Denken entwickeln und viele berichten von einer verringerten Einsamkeit.

Gleichzeitig warnen Klinikärzte, dass eine kleine Minderheit vulnerabler Personen einem höheren Risiko ausgesetzt sein könnte, da die Systeme emotionale Extreme widerspiegeln oder verstärken können, insbesondere in langen, ununterbrochenen Gesprächen.

Politiker haben begonnen zu reagieren.

Kalifornien hat kürzlich Gesetze verabschiedet, die verlangen, dass Chatbots sich Minderjährigen klar identifizieren und jegliche suizidale Sprache an Krisenprofis umleiten.

Andere Plattformen haben Altersbeschränkungen eingeführt oder offene emotionale Dialoge für Teenager deaktiviert.

Die aufkommenden Rechtsstreitigkeiten lenken nun die Aufmerksamkeit auf eine tiefere Frage: wie die Gesellschaft Technologien, die Trost, Gesellschaft und Anleitung bieten können, während sie gleichzeitig ein menschliches Verständnis der fragilen Geister, die sie gelegentlich bedienen, fehlen, regeln sollte.