Du bist mit einem Tinder-Date nach Hause gegangen und die Dinge eskalieren. Du kennst diesen Kerl nicht wirklich und vertraust ihm nicht wirklich, und du willst dir keinen STI zuziehen, also… was nun?
Eine Firma rief an Calmara möchte, dass Sie ein Foto vom Penis des Mannes machen und Ihnen dann mithilfe der KI sagen, ob Ihr Partner „klar“ ist oder nicht.
Um es gleich vorweg zu sagen: Sie sollten nicht die Genitalien einer anderen Person fotografieren und diese mit einem KI-Tool scannen, um zu entscheiden, ob Sie Sex haben sollten oder nicht.
Die Prämisse von Calmara weist mehr Warnsignale auf als ein schlechtes erstes Date, aber von da an wird es noch schlimmer, wenn man das bedenkt Die meisten sexuell übertragbaren Krankheiten verlaufen asymptomatisch. Ihr Partner könnte also durchaus eine Geschlechtskrankheit haben, aber Calmara würde Ihnen sagen, dass er in Sicherheit ist. Aus diesem Grund werden bei echten STI-Tests im Gegensatz zu einer visuellen Untersuchung Blut- und Urinproben zum Nachweis einer Infektion verwendet.
Andere Startups gehen verantwortungsvoller mit der Notwendigkeit barrierefreier STI-Tests um.
„Bei der Labordiagnose sind Sensitivität und Spezifität zwei wichtige Messgrößen, die uns helfen, die Neigung des Tests zu übersehenden Infektionen und zu falsch positiven Ergebnissen zu verstehen“, sagte Daphne Chen, Gründerin von TBD Health, gegenüber Tech. „Selbst bei sehr strengen Tests gibt es immer ein gewisses Maß an Fehlbarkeit, aber Testhersteller wie Roche sind aus gutem Grund mit ihren Validierungsraten vorne dabei – so können Ärzte die Ergebnisse in einen Kontext setzen.“
Im Kleingedruckten warnt Calmara, dass seine Ergebnisse nicht als Ersatz für ärztlichen Rat dienen sollten. Aber sein Marketing lässt etwas anderes vermuten. Bevor Tech sich an Calmara wandte, lautete der Titel seiner Website: „Calmara: Ihr intimer Freund für ungeschützten Sex“ (inzwischen wurde er aktualisiert und heißt stattdessen „Safer Sex“). Und in a Promo-Videoes beschreibt sich selbst als „Die PERFEKTE WEBSITE zum ANNEHMEN!“
Mitbegründerin und CEO Mei-Ling Lu sagte gegenüber Tech, dass Calmara nicht als ernstzunehmendes medizinisches Hilfsmittel gedacht sei. „Calmara ist ein Lifestyle-Produkt, keine medizinische App. Es beinhaltet keine medizinischen Bedingungen oder Diskussionen in seinem Rahmen, und an der aktuellen Calmara-Erfahrung sind keine Ärzte beteiligt. Es handelt sich um einen kostenlosen Informationsdienst.“
„Wir aktualisieren die Mitteilungen, um unsere aktuellen Absichten besser widerzuspiegeln“, fügte Lu hinzu. „Die klare Idee besteht darin, ein Gespräch über den STI-Status und Tests zu initiieren.“
Calmara ist Teil von HeHealth, das 2019 gegründet wurde. Calmara und HeHealth nutzen die gleiche KI, was angeblich zu 65-90 % genau ist. HeHealth ist als erster Schritt zur Beurteilung der sexuellen Gesundheit konzipiert. Anschließend hilft die Plattform den Nutzern, mit Partnerkliniken in ihrer Nähe in Kontakt zu treten, um einen Termin für ein tatsächliches, umfassendes Screening zu vereinbaren.
Der Ansatz von HeHealth ist beruhigender als der von Calmara, aber das ist eine niedrige Messlatte – und selbst dann weht eine riesige rote Fahne: Datenschutz.
„Es ist gut zu sehen, dass sie einen anonymen Modus anbieten, bei dem Sie Ihre Fotos nicht mit persönlich identifizierbaren Informationen verknüpfen müssen“, sagte Valentina Milanova, Gründerin des Tampon-basierten STI-Screening-Startups Daye, gegenüber Tech. „Dies bedeutet jedoch nicht, dass ihr Dienst anonymisiert oder anonymisiert wird, da Ihre Fotos möglicherweise immer noch auf Ihre E-Mail- oder IP-Adresse zurückgeführt werden.“
HeHealth und Calmara behaupten außerdem, dass sie HIPAA einhalten, eine Regelung zum Schutz der Patientenvertraulichkeit, da sie Amazon Web Services nutzen. Das klingt beruhigend, aber in seiner Datenschutzrichtlinie schreibt Calmara, dass es Benutzerinformationen mit „Dienstanbietern und Partnern teilt, die beim Dienstbetrieb helfen, einschließlich Datenhosting, Analyse, Marketing, Zahlungsabwicklung und Sicherheit“. Sie geben auch nicht an, ob diese KI-Scans auf Ihrem Gerät oder in der Cloud stattfinden und wenn ja, wie lange diese Daten in der Cloud bleiben und wofür sie verwendet werden. Das ist etwas zu vage, um Benutzern zu versichern, dass ihre intimen Fotos sicher sind.
Diese Sicherheitsfragen sind nicht nur für die Benutzer besorgniserregend, sondern auch für das Unternehmen selbst gefährlich. Was passiert, wenn ein Minderjähriger die Website nutzt, um nach sexuell übertragbaren Krankheiten zu suchen? Dann gelangt Calmara in den Besitz von Material über sexuellen Kindesmissbrauch. Calmaras Antwort auf diese ethische und rechtliche Verpflichtung besteht darin, in seinen Nutzungsbedingungen zu schreiben, dass die Nutzung durch Minderjährige verboten sei, dass die Verteidigung jedoch keine rechtliche Bedeutung hätte.
Calmara stellt die Gefahr einer überbewerteten Technologie dar: Für HeHealth scheint es ein Werbegag zu sein, um aus der Aufregung um KI Kapital zu schlagen, aber in der tatsächlichen Umsetzung vermittelt es den Benutzern lediglich ein falsches Gefühl der Sicherheit hinsichtlich ihrer sexuellen Gesundheit. Diese Konsequenzen sind schwerwiegend.
„Sexuelle Gesundheit ist ein schwieriger Bereich für Innovationen, und ich kann erkennen, dass ihre Absichten edel sind“, sagte Chen. „Ich denke nur, dass sie möglicherweise zu schnell mit einer Lösung auf den Markt kommen, die noch nicht ausreichend ausgereift ist.“