Die Bedrohung durch Deepfakes wächst, da die KI-Tools zu ihrer Erstellung allgemein zugänglich werden. Es gab weltweit einen Anstieg von Deepfakes um 245 % von 2023 bis 2024, ein Aufwärtstrend, der laut dem Verifizierungsanbieter Sumsub teilweise durch kommende Wahlzyklen ausgelöst wurde. Dies wirkt sich auch auf den Unternehmenssektor aus; eine aktuelle Umfrage von Business.com ergab, dass 10 % der Unternehmen waren Opfer von Betrug durch Deepfakeswie geklonte Stimmen.
Wenig überraschend war dieser Trend ein Glücksfall für Unternehmen, die Tools zur Abwehr von Deepfakes und Technologien zu ihrer Herstellung vermarkten. Eines dieser Unternehmen, Stecknadel fallengab am Mittwoch bekannt, dass es von Hercules Capital einen Kredit über 100 Millionen US-Dollar mit einer Laufzeit von fünf Jahren erhalten habe. Der Betrag sei laut CEO Vijay Balasubramaniyan für die Produktentwicklung und die Einstellung von Mitarbeitern vorgesehen.
„Mit den Fortschritten in der generativen KI ist insbesondere das Klonen von Stimmen zu einem mächtigen Werkzeug geworden“, sagte Balasubramaniyan gegenüber Tech. „Deepfake-Erkennung mithilfe von KI-Erkennungstechnologien ist heute in jedem Callcenter erforderlich, um Betrügern immer einen Schritt voraus zu sein.“
Pindrop entwickelt Produkte zur Bekämpfung von Deepfakes und zur Multi-Faktor-Authentifizierung, die sich an Unternehmen im Bank- und Finanzwesen sowie verwandten Branchen richten. Das Unternehmen behauptet, dass seine Tools beispielsweise Anrufer in Callcentern identifizieren können – und zwar mit höherer Genauigkeit als konkurrierende Lösungen.
„Pindrop nutzt einen Datensatz von über 20 Millionen Äußerungen, sowohl synthetische als auch echte, um die KI-Modelle zu trainieren, zwischen echten menschlichen Stimmen und synthetisch erzeugten zu unterscheiden“, sagte Balasubramaniyan. „Wir haben auch über 330 Text-to-Speech-Modelle (TTS) trainiert, um TTS-Modelle zu identifizieren, die zur Erstellung des Deepfakes verwendet wurden.“
Verzerrung ist bei Modellen zur Deepfake-Erkennung ein häufiges Problem. Viele Audiomodelle neigen dazu, voreingenommen westliche, amerikanische Stimmen zu erkennen und schneiden bei unterschiedlichen Akzenten und Dialekten schlecht ab, was dazu führen könnte, dass ein Detektor eine echte Stimme als Deepfake einstuft.
Es ist umstritten, ob synthetische Trainingsdaten – Trainingsdaten, die von KI-Modellen selbst generiert werden – mildert oder verschärft die Voreingenommenheit. Balasubramaniyan glaubt jedenfalls Ersteres und behauptet, dass sich Pindrops Stimmauthentifizierungsprodukte auf die „akustischen und spektro-zeitlichen Merkmale“ von Stimmen konzentrieren und nicht auf die Aussprache oder Sprache.
„KI-basierte Spracherkennungssysteme neigen dazu, verzerrte Ergebnisse in Bezug auf Unterschiede in Ton, Akzent, Umgangssprache und Dialekt anzuzeigen, die rassistische Auswirkungen haben könnten“, sagte Balasubramaniyan. „Diese Verzerrungen ergeben sich aus der Homogenität der Daten, die zum Trainieren der Systeme verwendet werden und in denen möglicherweise verschiedene ethnische, rassische, geschlechtliche oder andere Unterschiede nicht abgebildet sind, wodurch die Vielfalt der Daten, mit denen die KI-Systeme trainiert werden, begrenzt wird.“
Ungeachtet der Wirksamkeit seiner Produkte hat Pindrop seit 2011 erhebliche Fortschritte gemacht, als Balasubramaniyan, ein ehemaliger Google-Mitarbeiter, das Unternehmen mit dem ehemaligen Forschungsleiter von Barracuda Networks, Paul Judge, und Mustaque Ahamad gründete. Bis heute hat das in Atlanta ansässige Unternehmen, das rund 250 Mitarbeiter beschäftigt, 234,77 Millionen Dollar Risikokapital von Investoren wie Vitruvian Partners, CapitalG, IVP und Andreessen Horowitz eingesammelt.
Auf die Frage, warum Pindrop sich diesmal für Fremdkapital statt für Eigenkapital entschieden habe, sagte Balasubramaniyan, dies sei eine „attraktive Option“, um „effizient Wachstumskapital zu beschaffen“, ohne Pindrops Eigenkapital zu verwässern. (Das ist eine gängige Strategie.)
Der Erlös aus dem Darlehen werde es Pindrop ermöglichen, seine Technologie in neue Sektoren einzuführen, fügte Balasubramaniyan hinzu, etwa das Gesundheitswesen, den Einzelhandel, die Medien und die Reisebranche.
„Mit dem Aufkommen der generativen KI sehen wir weltweit eine enorme Nachfrage nach unseren Lösungen und planen, in Länder zu expandieren, in denen erhebliche Bedrohungen durch Deepfakes bestehen“, sagte Balasubramaniyan. „Pindrop ist in der Lage, Unternehmen dabei zu helfen, sich und ihre Verbraucher mit Lösungen zur Betrugsprävention, Authentifizierung und Echtheit vor zunehmenden Betrugs- und Deepfake-Bedrohungen zu schützen.“