Im Rahmen seines größeren Engagements zur Bekämpfung von „Cyberflashing“ ist die Dating-App Bumble dabei Open-Sourcing sein KI-Tool, das unerwünschte anzügliche Bilder erkennt. Der 2019 erstmals vorgestellte Private Detector (lasst uns einen Moment Zeit nehmen, um diesen Namen sacken zu lassen) verwischt Akte, die über die Bumble-App gesendet werden, und gibt dem Benutzer auf der Empfängerseite die Wahl, ob er das Bild öffnen möchte oder nicht.
„Obwohl die Anzahl der Benutzer, die anzügliche Bilder über unsere Apps senden, glücklicherweise eine vernachlässigbare Minderheit ist – nur 0,1 % – ermöglicht uns unsere Größe, einen branchenweit besten Datensatz mit anzüglichen und nicht anzüglichen Bildern zu sammeln, der darauf zugeschnitten ist, dies zu erreichen die bestmöglichen Leistungen bei der Aufgabe“, schrieb das Unternehmen in einer Pressemitteilung.
Jetzt verfügbar auf GitHub, ist eine verfeinerte Version der KI für die kommerzielle Nutzung, Verteilung und Modifikation verfügbar. Obwohl es nicht gerade die Spitzentechnologie ist, ein Modell zu entwickeln, das Nacktbilder erkennt, haben kleinere Unternehmen wahrscheinlich nicht die Zeit, es selbst zu entwickeln. Also, andere Dating-Apps (oder jedes Produkt, bei dem Leute Schwanzbilder senden könnten, AKA das gesamte Internet?) Könnten diese Technologie durchaus in ihre eigenen Produkte integrieren und dabei helfen, Benutzer vor unerwünschten unzüchtigen Inhalten zu schützen.
Seit der Veröffentlichung von Private Detector hat Bumble auch mit US-Gesetzgebern zusammengearbeitet, um rechtliche Konsequenzen für das Versenden unerwünschter Aktfotos durchzusetzen.
„Es ist notwendig, dieses Problem über das Produkt-Ökosystem von Bumble hinaus anzugehen und eine umfassendere Diskussion darüber zu führen, wie das Problem unerwünschter unzüchtiger Fotos – auch bekannt als Cyberflashing – angegangen werden kann, um das Internet zu einem sichereren und freundlicheren Ort für alle zu machen“, fügte Bumble hinzu.
Als Bumble diese KI zum ersten Mal vorstellte, behauptete das Unternehmen, sie habe eine Genauigkeit von 98 %.