Die britische Datenschutzbehörde hat eine fast einjährige Untersuchung des KI-Chatbots My AI von Snap abgeschlossen und erklärt, sie sei zufrieden, dass das Social-Media-Unternehmen Bedenken hinsichtlich der Risiken für die Privatsphäre von Kindern ausgeräumt habe. Gleichzeitig richtete das Information Commissioner’s Office (ICO) eine allgemeine Warnung an die Industrie, proaktiv Risiken für die Rechte der Menschen einzuschätzen, bevor generative KI-Tools auf den Markt gebracht werden.
GenAI bezieht sich auf eine Variante der KI, die häufig die Erstellung von Inhalten in den Vordergrund stellt. Im Fall von Snap betreibt die Technologie einen Chatbot, der auf menschenähnliche Weise auf Benutzer reagieren kann, beispielsweise durch das Versenden von Textnachrichten und Snaps, wodurch die Plattform eine automatisierte Interaktion ermöglichen kann.
Der KI-Chatbot von Snap basiert auf ChatGPT von OpenAI, das Social-Media-Unternehmen gibt jedoch an, dass es verschiedene Schutzmaßnahmen auf die Anwendung anwendet, darunter Richtlinienprogrammierung und standardmäßige Altersberücksichtigung, die verhindern sollen, dass Kinder altersgemäße Inhalte sehen. Es integriert auch die Kindersicherung.
„Unsere Untersuchung zu ‚My AI‘ sollte als Warnschuss für die Industrie dienen“, schrieb Stephen Almond, der leitende Direktor für regulatorische Risiken des ICO, in einem Stellungnahme Dienstag. „Organisationen, die generative KI entwickeln oder nutzen, müssen den Datenschutz von Anfang an berücksichtigen, einschließlich einer strengen Bewertung und Minderung von Risiken für die Rechte und Freiheiten der Menschen, bevor sie Produkte auf den Markt bringen.“
„Wir werden weiterhin die Risikobewertungen von Organisationen überwachen und das gesamte Spektrum unserer Durchsetzungsbefugnisse – einschließlich Geldstrafen – nutzen, um die Öffentlichkeit vor Schaden zu schützen“, fügte er hinzu.
Bereits im Oktober schickte das ICO Snap eine vorläufige Durchsetzungsmitteilung wegen etwas, das es damals als „potenzielles Versäumnis, die Datenschutzrisiken seines generativen KI-Chatbots „My AI“ richtig einzuschätzen“ bezeichnete.
Diese Vorankündigung vom letzten Herbst scheint die einzige öffentliche Zurechtweisung für Snap zu sein. Theoretisch kann das Regime bei bestätigten Datenschutzverstößen Bußgelder von bis zu 4 % des Jahresumsatzes eines Unternehmens verhängen.
Das ICO gab am Dienstag den Abschluss seiner Untersuchung bekannt und schlug vor, dass das Unternehmen nach seinem Eingreifen „erhebliche Schritte unternommen habe, um eine gründlichere Überprüfung der von ‚My AI‘ ausgehenden Risiken durchzuführen“. Das ICO sagte außerdem, dass Snap nachweisen konnte, dass es als Reaktion auf die geäußerten Bedenken „angemessene Abhilfemaßnahmen“ umgesetzt habe – ohne anzugeben, welche zusätzlichen Maßnahmen (falls vorhanden) das Unternehmen ergriffen hat (wir haben nachgefragt).
Weitere Einzelheiten werden möglicherweise bekannt gegeben, wenn die endgültige Entscheidung der Regulierungsbehörde in den kommenden Wochen veröffentlicht wird.
„Das ICO ist zufrieden, dass Snap nun eine datenschutzkonforme Risikobewertung in Bezug auf „My AI“ durchgeführt hat. Das ICO wird weiterhin die Einführung von „My AI“ überwachen und wie auf neu auftretende Risiken reagiert wird“, fügte die Regulierungsbehörde hinzu.
Um eine Antwort auf den Abschluss der Untersuchung zu erhalten, schickte uns ein Sprecher von Snap eine Erklärung: „Wir freuen uns, dass das ICO akzeptiert hat, dass wir geeignete Maßnahmen zum Schutz unserer Community bei der Nutzung von My AI ergriffen haben.“ Obwohl wir die von My AI ausgehenden Risiken sorgfältig bewertet haben, akzeptieren wir, dass unsere Einschätzung klarer hätte dokumentiert werden können und haben Änderungen an unseren globalen Verfahren vorgenommen, um das konstruktive Feedback des ICO widerzuspiegeln. Wir begrüßen die Schlussfolgerung des ICO, dass unsere Risikobewertung vollständig mit den britischen Datenschutzgesetzen vereinbar ist, und freuen uns auf die Fortsetzung unserer konstruktiven Partnerschaft.“
Snap lehnte es ab, etwaige Abhilfemaßnahmen zu spezifizieren, die es als Reaktion auf die Intervention des ICO umgesetzt hatte.
Die britische Regulierungsbehörde hat erklärt, dass generative KI weiterhin Priorität bei der Durchsetzung hat. Es weist Entwickler darauf hin Orientierungshilfe Es basiert auf KI- und Datenschutzregeln. Es hat auch eine Beratung geöffnet Ich bitte um Anregungen dazu, wie das Datenschutzrecht auf die Entwicklung und Nutzung generativer KI-Modelle angewendet werden sollte.
Während das Vereinigte Königreich noch keine formelle Gesetzgebung für KI einführen muss, weil die Regierung sich dafür entschieden hat, sich darauf zu verlassen, dass Regulierungsbehörden wie das ICO bestimmen, wie verschiedene bestehende Regeln gelten, haben die Gesetzgeber der Europäischen Union gerade einen risikobasierten Rahmen für KI verabschiedet – dieser soll gelten in den kommenden Monaten und Jahren – einschließlich Transparenzpflichten für KI-Chatbots.