Wir haben Meta kürzlich gefragt, ob es KI auf Fotos und Videos trainiert, die Benutzer mit der Ray-Ban Meta-Datenbrille aufnehmen. Das Unternehmen hatte ursprünglich nicht viel zu sagen.
Seitdem bietet Meta Tech etwas mehr Farbe.
Kurz gesagt: Jedes Bild, das Sie mit Meta AI teilen, kann zum Trainieren seiner KI verwendet werden.
„[I]„An Standorten, an denen multimodale KI verfügbar ist (derzeit USA und Kanada), können mit Meta AI geteilte Bilder und Videos verwendet werden, um sie gemäß unserer Datenschutzrichtlinie zu verbessern“, sagte Emil Vazquez, Kommunikationsmanager für Meta-Richtlinien, in einer E-Mail an Tech.
In einer früheren E-Mail-Erklärung stellte ein Sprecher klar, dass es sich bei den mit Ray-Ban Meta aufgenommenen Fotos und Videos um solche handelt nicht werden von Meta für das Training verwendet, solange der Benutzer sie nicht an AI übermittelt. Sobald Sie Meta AI jedoch mit der Analyse beauftragen, unterliegen diese Fotos völlig anderen Richtlinien.
Mit anderen Worten: Das Unternehmen nutzt sein erstes KI-Gerät für Verbraucher, um einen riesigen Datenvorrat anzulegen, der zur Erstellung immer leistungsfähigerer Generationen von KI-Modellen genutzt werden könnte. Die einzige Möglichkeit, sich abzumelden, besteht darin, die multimodalen KI-Funktionen von Meta einfach gar nicht erst zu nutzen.
Die Auswirkungen sind besorgniserregend, da Ray-Ban Meta-Benutzer möglicherweise nicht verstehen, dass sie Meta Unmengen von Bildern zur Verfügung stellen – die möglicherweise das Innere ihres Zuhauses, von Angehörigen oder persönlichen Dateien zeigen –, um die neuen KI-Modelle zu trainieren. Meta-Sprecher sagten mir, dass dies in der Benutzeroberfläche von Ray-Ban Meta deutlich zu erkennen sei, aber die Führungskräfte des Unternehmens wussten diese Details entweder zunächst nicht oder wollten diese Details nicht mit Tech teilen. Wir wussten bereits, dass Meta seine Llama-KI-Modelle darauf trainiert alles, was Amerikaner öffentlich auf Instagram und Facebook posten. Aber jetzt hat Meta diese Definition von „öffentlich verfügbaren Daten“ auf alles ausgeweitet, was Menschen durch seine Datenbrille betrachten und seinen KI-Chatbot zur Analyse auffordern.
Dies ist jetzt besonders relevant. Am Mittwoch, Meta begann mit dem Ausrollen Neue KI-Funktionen, die es Ray-Ban Meta-Benutzern erleichtern, Meta AI auf natürlichere Weise aufzurufen, was bedeutet, dass Benutzer ihr mit größerer Wahrscheinlichkeit neue Daten senden, die auch für das Training verwendet werden können. Darüber hinaus kündigte das Unternehmen während seiner Connect-Konferenz 2024 letzte Woche eine neue Live-Videoanalysefunktion für Ray-Ban Meta an, die im Wesentlichen einen kontinuierlichen Bildstrom an die multimodalen KI-Modelle von Meta sendet. In einem Werbevideo sagte Meta, man könne die Funktion nutzen, um sich in seinem Kleiderschrank umzusehen, das Ganze mit KI zu analysieren und ein Outfit auszuwählen.
Was das Unternehmen nicht bewirbt, ist, dass Sie diese Bilder auch zur Modellschulung an Meta senden.
Meta-Sprecher wiesen Tech darauf hin Datenschutzrichtliniein dem es klar heißt: „Ihre Interaktionen mit KI-Funktionen können zum Trainieren von KI-Modellen verwendet werden.“ Dies scheint auch Bilder einzuschließen, die über die Ray-Bans-Datenbrille mit Meta AI geteilt wurden, aber Meta wollte dies immer noch nicht klären.
Sprecher wiesen auch auf Tech hin Nutzungsbedingungen von Meta AIDarin heißt es, dass Sie durch das Teilen von Bildern mit Meta AI „zustimmen, dass Meta diese Bilder, einschließlich Gesichtsmerkmale, mithilfe von KI analysiert.“
Meta hat dem Bundesstaat Texas gerade 1,4 Milliarden US-Dollar gezahlt, um ein Gerichtsverfahren im Zusammenhang mit der Verwendung von Gesichtserkennungssoftware durch das Unternehmen beizulegen. In diesem Fall ging es um eine 2011 eingeführte Facebook-Funktion namens „Tag Suggestions“. Bis 2021 hat Facebook die Funktion explizit aktiviert und die gesammelten biometrischen Daten von Milliarden von Menschen gelöscht. Bemerkenswert ist, dass mehrere Bildfunktionen von Meta AI in Texas nicht veröffentlicht werden.
An anderer Stelle in den Datenschutzrichtlinien von MetaDas Unternehmen gibt an, dass es standardmäßig auch alle Transkriptionen Ihrer Sprachgespräche mit Ray-Ban Meta speichert, um zukünftige KI-Modelle zu trainieren. Für die eigentlichen Sprachaufzeichnungen gibt es die Möglichkeit, diese abzulehnen. Wenn Sie sich zum ersten Mal bei der Ray-Ban Meta-App anmelden, können Benutzer auswählen, ob Sprachaufzeichnungen zum Trainieren der KI-Modelle von Meta verwendet werden können.
Es ist klar, dass Meta, Snap und andere Technologieunternehmen auf Datenbrillen als neuen Formfaktor für Computer drängen. Alle diese Geräte verfügen über Kameras, die Menschen im Gesicht tragen, und sie werden größtenteils von KI angetrieben. Dies bringt eine Menge Datenschutzbedenken zum Ausdruck, von denen wir zum ersten Mal in der Google Glass-Ära gehört haben. 404 Medien berichteten, dass einige College-Studenten dies getan hätten habe bereits die Ray-Ban Meta-Brille gehackt um den Namen, die Adresse und die Telefonnummer aller Personen preiszugeben, die sie ansehen.