Sie kennen das Gefühl; Sie sind auf einer Dating-App und beginnen ein Gespräch mit jemandem, und die Dinge scheinen nicht vollständig zusammenzupassen. Du hast gesehen Der Tinder-Betrüger auf Netflix, und Sie fragen sich plötzlich: Wird mich jemand um Geld bitten? Das Team von Video-Dating-Site Filter aus entschied sich für einen neuartigen Ansatz: Jeder entdeckte Betrüger wurde einem Nebenpool von Dating-Hoffnungsträgern hinzugefügt, der nur ihre eigenen Chatbots enthielt, die sich als entzückende Singles ausgaben, und andere Betrüger. Wie zu erwarten, folgte Heiterkeit.
Als Plattform ist Filter Off eine Video-First-Dating-App, die zu Beginn der COVID-19-Sperren eingeführt wurde. Als sich das Dating von Bars und Galerien und Picknicks zu mehr Chat- und Video-First verlagerte, startete das Unternehmen und bot virtuelle Speed-Dating-Events zu verschiedenen Themen an; Harry-Potter-Date-Night, Hundeliebhaber-Date-Night, New York City-Date-Night – was auch immer. Die Plattform hat Hunderttausende von Nutzern, und als ihre Popularität bei Menschen auf der Suche nach Liebe zunahm, stellten die Gründer fest, dass sie auch eine zweite Gruppe von Menschen anzog – Menschen, die nach Geld suchten.
„Das erste Mal, dass ich bemerkte, dass es ein Problem gab, war, als ich sah, dass George Clooney Filter Off beigetreten war. Ich dachte: ‚Heilige Scheiße, das ist wild, ich kann es nicht glauben…‘, aber dann habe ich mir sein Profil genauer angesehen“, lacht Brian Weinreich, Produktleiter bei Filter Off, in einem Interview mit Tech. Er erkannte, dass Clooney wahrscheinlich nicht auf einer Dating-Site sein würde, und selbst wenn er es wäre, wäre er kein 34-Jähriger aus Lagos, Nigeria. „Ich habe ihr Profil gelöscht, um sie aus der App zu entfernen. Dann bemerkte ich all diese Profile, die wie echte Menschen aussehen, aber es waren all diese verschiedenen Profile, die nicht zusammenpassen.“
Das Produktteam beschloss, zu versuchen, das Problem mit Algorithmen zu beheben, und erstellte eine Software, die Benutzer in Menschen einteilt, und „basierend auf bestimmten Merkmalen, die mir langsam auffallen, wie Menschen sich anmelden, wie sie die App verwenden „Sie sind ziemlich wahrscheinlich ein Betrüger. Das Team löschte die Profile immer wieder, aber für jeden Betrüger, den sie ausschalteten, tauchten an ihrer Stelle fünf weitere auf, im Medusa-Stil.
„Ich dachte, okay, wir brauchen einen Weg, wie wir Betrüger loswerden können, aber es muss so sein, dass sie nicht einfach zurückkommen und der Plattform wieder beitreten können“, sagte Weinreich. „Ich erinnerte mich, dass Reddit und andere Plattformen eine Art ‚Schattenverbot‘ haben, bei dem Benutzer weiterhin posten können, aber normale Benutzer ihre Inhalte nicht sehen.“
Und so begann die Arbeit. Das Team verwendet GPT-3 eine Reihe von Chatbots zu erstellen, kombiniert mit einem Skript, das menschenähnliche Gesichter generiert, um selbst eine Reihe von gefälschten Profilen zu erstellen. Die Einschränkung: Diese Profile werden nicht von „normalen“ Benutzern gesehen, sondern nur von Personen, die der Algorithmus als Betrüger identifiziert hat. Sie stecken sie in einen Pool von Tausenden von Bots, die wie echte Menschen aussehen und sprechen.
„TDer lustige Teil ist, dass zwei Dinge passieren. Erstens treffen die Betrüger auf andere Bots, aber sie treffen auch auf andere Betrüger, und sie versuchen, sich gegenseitig zu betrügen“, lacht Weinreich. „Sie sagen: ‚Ich möchte 40 $ für eine Google Play-Geschenkkarte‘ und der andere Betrüger antwortet ‚Nein, nein, du gibst eine Geschenkkarte mich‚ und sie stritten sich einfach weiter. Es ist nur diese urkomische Sache, wo wir derzeit in unserer App wahrscheinlich über 1.000 Betrüger haben, von denen ich weiß, dass sie aktiv nur mit Bots sprechen. Es ist großartig. Sie verschwenden ihre Zeit und müssen sich nicht mit unseren echten Benutzern auseinandersetzen.“
Die Plattform verfügt über Berichts- und Blockierungsfunktionen, mit denen echte Benutzer potenzielle Betrüger melden können. Wenn es gemeldet wird, kann das Team seinen Algorithmus verbessern und die Betrüger auch manuell in den Bots-Pool platzieren.
„TDas Lustigste an unserer Meldefunktion ist die Anzahl der Berichte, die ich von Betrügern erhalte, die berichten, dass sie mit einem Bot sprechen. Ich denke ‚Ja, ich weiß, das ist der Punkt’“, zuckt Weinreich mit den Schultern.
Das Unternehmen sammelte einige der absurdesten Gespräche, die Betrüger untereinander und mit Bots im eigenen Blog führtenwas auch einen Blick wert ist.