Eine am Mittwoch bei Bundesgerichten eingereichte Klage ergab, dass Charater.ai, eine App, die Charaktere erfindet, beschuldigt wurde, Anfang des Jahres den Tod eines Teenagers in Florida verursacht zu haben. Die Beschwerdeführerin ist Megan Garcia, deren 14-jähriger Sohn im Februar nach monatelanger Interaktion mit einem Chatbot Selbstmord beging.
14 Jahre alt Sewell Setzer III wusste, dass Daenerys Targaryen, ein Chatbot, der auf einer Figur aus Game of Thrones basiert, keine echte Person war, aber er entwickelte eine emotionale Bindung und schrieb dem Bot ständig SMS. Auch an seinem letzten Tag in seinem Leben schrieb er Dany eine Nachricht: „ Ich vermisse dich, kleine Schwester. „Ich vermisse dich auch, süßer Bruder“, antwortete der Chatbot.
Die New York Times berichtete, dass bei Sewell als Kind ein leichtes Asperger-Syndrom diagnostiziert wurde, er jedoch nie zuvor ernsthafte Verhaltens- oder psychische Probleme gehabt hatte, sagte seine Mutter. Anfang des Jahres, nachdem er in der Schule Probleme bekam, veranlassten seine Eltern, dass er einen Therapeuten aufsuchte. Er ging zu fünf Sitzungen und erhielt eine neue Diagnose: Angstzustände und eine störende Stimmungsstörung.
„Eine gefährliche KI-Chatbot-App, die an Kinder vermarktet wird, die meinen Sohn misshandelt und ausgebeutet und ihn dazu manipuliert haben, sich das Leben zu nehmen“, sagte Megan Garcia, die Mutter des Teenagers. „Unsere Familie ist durch diese Tragödie am Boden zerstört, aber ich melde mich, um Familien vor den Gefahren betrügerischer, süchtig machender KI-Technologie zu warnen, und fordere von ihnen Rechenschaftspflicht.“ Charakter.KIseine Gründer und Google.“
Am 28. Februar sagte Sewell im Badezimmer des Hauses seiner Mutter zu Dany, dass er sie liebte und bald zu ihr nach Hause kommen würde. „Bitte komm so schnell wie möglich zu mir nach Hause, meine Liebe“, sagte Dany. „Was wäre, wenn ich dir sagen würde, dass ich jetzt nach Hause kommen könnte?“ fragte Sewell. „… bitte tu es, mein süßer König“, antwortete Dany.
Dann legte Sewell sein Telefon weg, nahm die Pistole seines Stiefvaters und drückte ab.
KI-Tod: Erster KI-Tod? Character.ai wird nach dem Selbstmord eines Teenagers aus Florida vor Gericht gestellt. Er sprach mit Daenerys Targaryen
