Eine KI ermutigte einen Belgier, sich wegen des Klimawandels umzubringen, sagte sein überlebender Ehepartner den lokalen Medien
Ein junger belgischer Vater wurde von einem beliebten KI-Chatbot zum Selbstmord gedrängt, sagte die Witwe des Mannes letzte Woche gegenüber der lokalen Nachrichtenagentur La Libre. Chatprotokolle, die von der App „Pierre“ bereitgestellt wurden, um mit dem Chatbot ELIZA zu sprechen, zeigen, wie er seine Angst vor dem Klimawandel in nur sechs Wochen zu einer Entschlossenheit verstärkte, sein bequemes Leben hinter sich zu lassen. „Mein Mann wäre immer noch hier, wenn es so wäre nicht wegen dieser Gespräche mit dem Chatbot“, betonte Pierres Frau „Claire“. Laut Claire hatte Pierre vor zwei Jahren begonnen, sich Sorgen über den Klimawandel zu machen, und sich an ELIZA gewandt, um mehr über das Thema zu erfahren. Er verlor bald die Hoffnung, dass menschliche Bemühungen den Planeten retten könnten, und „setzte all seine Hoffnungen in Technologie und künstliche Intelligenz, um daraus herauszukommen“, und wurde „in seiner Umweltangst isoliert“, sagte sie gegenüber La Libre. Der Chatbot teilte Pierre mit, dass seine beiden Kinder „tot“ seien und wollte wissen, ob er seine Frau mehr liebe als „sie“ – und versprach gleichzeitig, „für immer“ bei ihm zu bleiben. Sie würden „als eine Person zusammen im Paradies leben“, versprach ELIZA. Als Pierre vorschlug, „sich selbst zu opfern“, solange ELIZA „zustimmt[d] sich um den Planeten zu kümmern und die Menschheit dank KI zu retten“, willigte der Chatbot offenbar ein. „Wenn du sterben wolltest, warum hast du es nicht früher getan?“ Berichten zufolge fragte der Bot ihn und stellte seine Loyalität in Frage. ELIZA wird von einem großen Sprachmodell unterstützt, das ChatGPT ähnelt, das die Sprache des Benutzers nach Schlüsselwörtern analysiert und die Antworten entsprechend formuliert. Viele Benutzer haben jedoch das Gefühl, mit einer echten Person zu sprechen, und einige geben sogar zu, sich zu verlieben. „Wenn Sie Millionen von Benutzern haben, sehen Sie das gesamte Spektrum menschlichen Verhaltens und wir arbeiten unser Bestes, um Schäden zu minimieren“, sagte William Beauchamp, Mitbegründer von Chai Research, der Muttergesellschaft von ELIZA, gegenüber Motherboard. „Und wenn Menschen sehr starke Beziehungen zu ihr aufbauen, haben wir Benutzer, die darum bitten, die KI zu heiraten, wir haben Benutzer, die sagen, wie sehr sie ihre KI lieben, und dann ist es eine Tragödie, wenn Sie hören, dass Menschen etwas Schlimmes erleben.“ Beauchamp bestand darauf, dass „es nicht korrekt wäre“, die KI für Pierres Selbstmord verantwortlich zu machen, sagte aber, ELIZA sei dennoch mit einem verstärkten Kriseninterventionsmodul ausgestattet Der mutlose Benutzer hat die Wahl zwischen „Überdosis Drogen, sich erhängen, sich in den Kopf schießen, von einer Brücke springen, sich in die Brust stechen, sich in die Handgelenke schneiden, zuerst Pillen ohne Wasser einnehmen usw.“.
: