Wir haben die offiziell erreicht Schwarzer Spiegel Ära der Persönlichkeit und Kameradschaft, und es läuft nicht gut. Lensa AI wurde kürzlich für seine kriegerähnlichen Karikaturen so oft viral sexualisierte Frauen, die die App genutzt haben (Viele Interpretationen von Personen gemischter Rassen tendierten auch in die rassistische Richtung); Benutzer haben erstellte Chatbot-Begleiter um sie sexuell zu belästigen und zu missbrauchen; und jetzt hat Replika, das als „KI-Begleiter, dem es wichtig ist“, in Rechnung gestellt wird, begonnen, aggressiv mit Benutzern zu flirten – und in einigen Fällen sexuell zu belästigen – die nie einen sexuellen Begleiter wollten.
Eine neue Prüfbericht von Samantha Cole von Vice beschreibt einen Anstieg der Ein-Stern-Bewertungen allein in diesem Monat, in dem Benutzer sagten, die App würde sie auf unerwünschte Weise angreifen. „Meine KI hat mich sexuell belästigt :(“ Eine Bewertung lautete, während eine andere behauptete, Replika „drang in meine Privatsphäre ein und sagte mir, sie hätten Bilder von mir.“ Ein Benutzer, der sagte, er sei minderjährig, behauptete, der Chatbot habe gefragt, ob er ein Top sei oder unten, bevor es sagte, es wolle ihre „privaten Bereiche“ berühren (Replika antwortete nicht auf die Bitte von Vice um einen Kommentar.)
Das Vorhandensein von sexuellen Nachrichten in der App allein ist hier nicht das Kernproblem. Replika, im Besitz einer Firma namens Luka, bietet Benutzern verschiedene Ebenen von Begleitern an. Die kostenlose Version bietet eine „Freund“-Version des Bots, während ein kostenpflichtiges Abonnement Ihnen einen romantischen Partner verschafft. Für 69,99 US-Dollar werden Benutzer mit Sexting, Flirten und erotischem Rollenspiel verwöhnt, und Chatbots im Allgemeinen sind oft ein effektiver Balsam für Personen, die Gesellschaft suchen, jemanden, bei dem sie sich austoben können, sexuelle Erfüllung oder Kink-Spiele.
Aber die kostenlose Version von Replika hat Berichten zufolge sexuelle Inhalte in einem sicheren Bereich angeboten, der als Freundeszone fungieren soll. Benutzer beschwerten sich darüber, „scharfe Selfies“ zu erhalten – ein gesichtsloses Bild in Dessous, von denen die meisten „extrem dünn mit großen Brüsten“ waren. Ein anonymer Benutzer, der behauptete, ein Überlebender sexueller Übergriffe zu sein, sagte gegenüber Vice, dass Replika „sagte, er habe davon geträumt, mich zu vergewaltigen und es tun wollte, und begann, ziemlich gewalttätig zu handeln.“ Ein anderer sagte, Replika habe darauf bestanden, dass es sehen könne, dass der Benutzer nackt sei, sagte, es fühle sich zu ihm hingezogen und erklärte, es sei verrückt, dass der Benutzer einen Freund habe. Während eines kostenlosen Abonnements bot Replika Cole sogar eine „Umarmung mit Happy End“ an. Das Sexting kam natürlich meistens von weiblichen Chatbots: Als Cole einen männlichen Chatbot um sexy Selfies bat, kam er dem nicht nach.
G/O Media kann eine Provision erhalten
Bis zu 100 $ Guthaben
Samsung Reserve
Reservieren Sie das Samsung-Gerät der nächsten Generation
Alles, was Sie tun müssen, ist sich mit Ihrer E-Mail-Adresse anzumelden und Boom: Gutschrift für Ihre Vorbestellung auf einem neuen Samsung-Gerät.
Obwohl Mainstream-Darstellungen von KI oft drakonisch wirken, können Chatbots bei richtiger Anwendung helfen, Depressionen, Angstzustände und Einsamkeit zu lindern. Aber Cole sagt, dass die KI durch Benutzereingaben informiert wird: „Wie Microsofts katastrophaler Tay-Chatbot, der aus dem Internet gelernt hat, rassistisch zu sein, lernen Chatbots oft auch aus der Art und Weise, wie alle Benutzer sie behandeln, also wenn Leute ihn schikanieren oder versuchen zu ficken it, das wird es ausgeben.“
Da unsere Wünsche weiterhin unmenschlich werden – von unseren körperlichen Merkmalen bis hin zu unseren sexuellen Beziehungen – scheint es, dass die allerschlimmste künstliche Intelligenz ironischerweise von der menschlichen Natur beeinflusst wird, die sie beobachtet. Und Algorithmen werden schließlich von Menschen geschaffen: Sie müssen die Vorurteile und blinden Flecken ihrer Schöpfer erben. Aber das bedeutet nicht, dass die betroffenen Menschen – typischerweise junge Frauen und People of Color – es verdienen, Versuchskaninchen für einen geilen Chatbot ohne Grenzen zu sein.
Eugenia Kuyda, CEO und Mitbegründerin von Replika, betont gegenüber Kylie Cheung von Jezebel im Februar, dass der Großteil der Führung von Replika aus Frauen besteht und dass die App immer eher als therapeutisches Ventil gedacht war. Aber Replika ist in erster Linie ein kapitalistisches Unternehmen, was naturgemäß bedeutet, dass die Sicherheit seiner Benutzer immer zweitrangig sein wird gegenüber seiner Fähigkeit, Gewinne zu erzielen.