McAfee Corp, ein weltweit führender Anbieter von Online-Schutz, hat seine angekündigt KI-gestützte Deepfake-Audio-Erkennungstechnologiebekannt als Projekt Spottdrossel, auf der Consumer Electronics Show. Diese neue, proprietäre Technologie wurde entwickelt, um Verbraucher vor der wachsenden Bedrohung durch Cyberkriminelle zu schützen, die gefälschte, KI-generierte Audiodaten nutzen, um Betrügereien durchzuführen, die Menschen Geld und persönliche Daten rauben, Cybermobbing ermöglichen und das öffentliche Image prominenter Persönlichkeiten manipulieren.
Immer ausgefeiltere und zugänglichere generative KI-Tools haben es Cyberkriminellen leichter gemacht, äußerst überzeugende Betrügereien zu erstellen, beispielsweise durch das Klonen von Stimmen, um sich als ein in Not geratenes Familienmitglied auszugeben und um Geld zu bitten. Bei anderen, oft als „Cheapfakes“ bezeichneten Videos handelt es sich möglicherweise um die Manipulation authentischer Videos, etwa von Nachrichtensendungen oder Interviews mit Prominenten, indem gefälschte Audioinhalte eingefügt werden, um die Worte, die aus dem Mund einer Person kommen, zu verändern. Dies lässt den Eindruck entstehen, dass eine vertrauenswürdige oder bekannte Person etwas anderes gesagt hat als ursprünglich gesagt.
Die Project Mockingbird-Technologie von McAfee nutzt eine Kombination aus KI-gestützten Kontext-, Verhaltens- und kategorialen Erkennungsmodellen, um zu ermitteln, ob der Ton in einem Video wahrscheinlich KI-generiert ist. Mit einer angeblichen Genauigkeitsrate von derzeit 90 % kann es KI-Inhalte erkennen und davor schützen, die für böswillige „Cheapfakes“ oder Deepfakes erstellt wurden.
„Mit den neuesten KI-Erkennungsfunktionen von McAfee stellen wir unseren Kunden ein Tool zur Verfügung, das mit einer Genauigkeit von mehr als 90 % arbeitet und den Menschen hilft, ihre digitale Welt zu verstehen und die Wahrscheinlichkeit einzuschätzen, dass Inhalte anders sind, als sie scheinen“, sagte Steve Grobman, Chief Technology Officer, McAfee. „So wie eine Wettervorhersage, die eine Regenwahrscheinlichkeit von 70 % anzeigt, Ihnen bei der Planung Ihres Tages hilft, liefert Ihnen unsere Technologie Einblicke, um fundierte Entscheidungen darüber zu treffen, ob Inhalte das sind, was sie zu sein scheinen.“
„Die Anwendungsfälle für diese KI-Erkennungstechnologie sind vielfältig und werden sich angesichts der Zunahme von KI-generierten Betrügereien und Desinformationen für Verbraucher als unschätzbar wertvoll erweisen. Mit den Deepfake-Audio-Erkennungsfunktionen von McAfee geben wir den Verbrauchern die Möglichkeit, direkt zu erkennen, was echt oder gefälscht ist. Wir helfen Verbrauchern, „billige“ Betrügereien zu vermeiden, bei denen ein geklonter Promi ein neues, zeitlich begrenztes Gewinnspiel beansprucht, und stellen außerdem sicher, dass Verbraucher beim Ansehen eines Videos über einen Präsidentschaftskandidaten sofort wissen, ob es echt ist oder für böswillige Zwecke von der KI erstellt wurde. Dies hebt den Schutz im Zeitalter der KI auf ein ganz neues Niveau. Unser Ziel ist es, den Nutzern die Klarheit und das Selbstvertrauen zu geben, sich in den Nuancen unserer neuen KI-gesteuerten Welt zurechtzufinden, um ihre Online-Privatsphäre und -Identität sowie ihr Wohlbefinden zu schützen“, fuhr Grobman fort.
Warum der Name Project Mockingbird
Spottdrosseln sind eine Gruppe von Vögeln, die vor allem dafür bekannt sind, den Gesang anderer Vögel nachzuahmen oder zu „verspotten“. Es gibt zwar keinen bewiesenen Grund dafür, warum Spottdrosseln sich lustig machen, doch eine Theorie hinter diesem Verhalten besagt, dass weibliche Vögel möglicherweise Männchen bevorzugen, die mehr Lieder singen, sodass die Männchen sich lustig machen, um sie auszutricksen. In ähnlicher Weise nutzen Cyberkriminelle die generative KI, um die Stimmen von Prominenten, Influencern und sogar Angehörigen zu „verspotten“ oder zu klonen, um Verbraucher zu betrügen.
Immer ausgefeiltere und zugänglichere generative KI-Tools haben es Cyberkriminellen leichter gemacht, äußerst überzeugende Betrügereien zu erstellen, beispielsweise durch das Klonen von Stimmen, um sich als ein in Not geratenes Familienmitglied auszugeben und um Geld zu bitten. Bei anderen, oft als „Cheapfakes“ bezeichneten Videos handelt es sich möglicherweise um die Manipulation authentischer Videos, etwa von Nachrichtensendungen oder Interviews mit Prominenten, indem gefälschte Audioinhalte eingefügt werden, um die Worte, die aus dem Mund einer Person kommen, zu verändern. Dies lässt den Eindruck entstehen, dass eine vertrauenswürdige oder bekannte Person etwas anderes gesagt hat als ursprünglich gesagt.
Die Project Mockingbird-Technologie von McAfee nutzt eine Kombination aus KI-gestützten Kontext-, Verhaltens- und kategorialen Erkennungsmodellen, um zu ermitteln, ob der Ton in einem Video wahrscheinlich KI-generiert ist. Mit einer angeblichen Genauigkeitsrate von derzeit 90 % kann es KI-Inhalte erkennen und davor schützen, die für böswillige „Cheapfakes“ oder Deepfakes erstellt wurden.
„Mit den neuesten KI-Erkennungsfunktionen von McAfee stellen wir unseren Kunden ein Tool zur Verfügung, das mit einer Genauigkeit von mehr als 90 % arbeitet und den Menschen hilft, ihre digitale Welt zu verstehen und die Wahrscheinlichkeit einzuschätzen, dass Inhalte anders sind, als sie scheinen“, sagte Steve Grobman, Chief Technology Officer, McAfee. „So wie eine Wettervorhersage, die eine Regenwahrscheinlichkeit von 70 % anzeigt, Ihnen bei der Planung Ihres Tages hilft, liefert Ihnen unsere Technologie Einblicke, um fundierte Entscheidungen darüber zu treffen, ob Inhalte das sind, was sie zu sein scheinen.“
„Die Anwendungsfälle für diese KI-Erkennungstechnologie sind vielfältig und werden sich angesichts der Zunahme von KI-generierten Betrügereien und Desinformationen für Verbraucher als unschätzbar wertvoll erweisen. Mit den Deepfake-Audio-Erkennungsfunktionen von McAfee geben wir den Verbrauchern die Möglichkeit, direkt zu erkennen, was echt oder gefälscht ist. Wir helfen Verbrauchern, „billige“ Betrügereien zu vermeiden, bei denen ein geklonter Promi ein neues, zeitlich begrenztes Gewinnspiel beansprucht, und stellen außerdem sicher, dass Verbraucher beim Ansehen eines Videos über einen Präsidentschaftskandidaten sofort wissen, ob es echt ist oder für böswillige Zwecke von der KI erstellt wurde. Dies hebt den Schutz im Zeitalter der KI auf ein ganz neues Niveau. Unser Ziel ist es, den Nutzern die Klarheit und das Selbstvertrauen zu geben, sich in den Nuancen unserer neuen KI-gesteuerten Welt zurechtzufinden, um ihre Online-Privatsphäre und -Identität sowie ihr Wohlbefinden zu schützen“, fuhr Grobman fort.
Warum der Name Project Mockingbird
Spottdrosseln sind eine Gruppe von Vögeln, die vor allem dafür bekannt sind, den Gesang anderer Vögel nachzuahmen oder zu „verspotten“. Es gibt zwar keinen bewiesenen Grund dafür, warum Spottdrosseln sich lustig machen, doch eine Theorie hinter diesem Verhalten besagt, dass weibliche Vögel möglicherweise Männchen bevorzugen, die mehr Lieder singen, sodass die Männchen sich lustig machen, um sie auszutricksen. In ähnlicher Weise nutzen Cyberkriminelle die generative KI, um die Stimmen von Prominenten, Influencern und sogar Angehörigen zu „verspotten“ oder zu klonen, um Verbraucher zu betrügen.