Die KI-gesteuerten Ray-Bans von Meta verfügen über eine diskrete Kamera auf der Vorderseite, mit der Sie nicht nur Fotos machen können, wenn Sie sie dazu auffordern, sondern auch, wenn ihre KI-Funktionen dies bei bestimmten Schlüsselwörtern wie „Schauen“ auslösen. Das bedeutet, dass die Datenbrille eine Menge Fotos sammelt, sowohl absichtlich aufgenommene als auch nicht. Das Unternehmen verpflichtet sich jedoch nicht, diese Bilder privat zu halten.
Wir haben Meta gefragt, ob es plant, KI-Modelle auf den Bildern von Ray-Ban Meta-Benutzern zu trainieren, wie dies auch auf Bildern von öffentlichen Social-Media-Konten der Fall ist. Das wollte das Unternehmen nicht sagen.
„Wir diskutieren das nicht öffentlich“, sagte Anuj Kumar, ein leitender Direktor, der bei Meta an KI-Wearables arbeitet, am Montag in einem Videointerview mit Tech.
„Das teilen wir normalerweise nicht nach außen“, sagte Meta-Sprecherin Mimi Huggins, die ebenfalls an dem Videoanruf teilnahm. Als Tech um Klärung bat, ob Meta auf diesen Bildern trainiert, antwortete Huggins: „Wir sagen nicht so oder so.“
Dies ist zum Teil besonders besorgniserregend, weil die neue KI-Funktion der Ray-Ban Meta viele dieser passiven Fotos aufnimmt. Letzte Woche berichtete Tech, dass Meta die Einführung einer neuen Echtzeit-Videofunktion für Ray-Ban Meta plant. Bei Aktivierung durch bestimmte Schlüsselwörter streamt die Datenbrille eine Reihe von Bildern (im Wesentlichen Live-Videos) in ein multimodales KI-Modell und ermöglicht so die Beantwortung von Fragen zu Ihrer Umgebung auf natürliche Weise mit geringer Latenz.
Das sind viele Bilder, und es handelt sich um Fotos, von denen ein Ray-Ban Meta-Benutzer möglicherweise nicht bewusst ist, dass sie sie aufnehmen. Angenommen, Sie haben die Datenbrille gebeten, den Inhalt Ihres Kleiderschranks zu scannen, um Ihnen bei der Auswahl eines Outfits zu helfen. Die Brille macht effektiv Dutzende Fotos von Ihrem Zimmer und allem darin und lädt sie alle auf ein KI-Modell in der Cloud hoch.
Was passiert danach mit diesen Fotos? Meta wird es nicht sagen.
Das Tragen der Ray-Ban Meta-Brille bedeutet auch, dass Sie eine Kamera im Gesicht tragen. Wie wir bei Google Glass herausgefunden haben, ist das, um es vorsichtig auszudrücken, nicht gerade etwas, mit dem sich andere Menschen allgemein wohlfühlen. Man könnte also meinen, dass es für das Unternehmen, das das tut, eine Selbstverständlichkeit ist, zu sagen: „Hey! Alle Ihre Fotos und Videos von Ihren Gesichtskameras sind völlig privat und werden isoliert auf Ihrer Gesichtskamera gespeichert.“
Aber das ist nicht das, was Meta hier macht.
Meta hat bereits erklärt, dass es seine KI-Modelle darauf trainiert die öffentlichen Instagram- und Facebook-Beiträge aller Amerikaner. Das Unternehmen hat entschieden, dass es sich dabei alles um „öffentlich verfügbare Daten“ handelt, und wir müssen das möglicherweise einfach akzeptieren. Es und andere Technologieunternehmen haben eine sehr umfassende Definition dessen übernommen, was öffentlich verfügbar ist, um KI zu trainieren, und was nicht.
Allerdings ist die Welt, die Sie durch die Datenbrille betrachten, sicherlich nicht „öffentlich zugänglich“. Wir können zwar nicht mit Sicherheit sagen, dass Meta KI-Modelle auf den Aufnahmen Ihrer Ray-Ban Meta-Kamera trainiert, aber das Unternehmen würde einfach nicht mit Sicherheit sagen, dass dies nicht der Fall ist.
Andere Anbieter von KI-Modellen haben klarere Regeln für das Training anhand von Benutzerdaten. Anthropic sagt es trainiert nie weiter die Eingaben oder Ausgaben eines Kunden in eines seiner KI-Modelle. OpenAI sagt es auch trainiert nie weiter Benutzereingaben oder -ausgaben über seine API.
Wir haben Meta um weitere Erläuterungen gebeten und werden die Geschichte aktualisieren, wenn sie sich bei uns melden.