Google nimmt potenziell problematische generative KI-Apps mit einer neuen Richtlinie ins Visier, die ab Anfang nächsten Jahres in Kraft treten soll und Entwickler von Android-Anwendungen, die in seinem Play Store veröffentlicht werden, dazu verpflichtet, die Möglichkeit zu bieten, anstößige KI-generierte Inhalte zu melden oder zu kennzeichnen. Die neue Richtlinie wird darauf bestehen, dass das Markieren und Melden in der App erfolgen kann und Entwickler den Bericht nutzen sollten, um ihre eigenen Ansätze zur Filterung und Moderation zu informieren, so das Unternehmen.
Die Änderung der Richtlinie folgt auf eine Explosion von KI-generierten Apps, bei denen Benutzer die Apps teilweise dazu verleiteten, NSFW-Bilder zu erstellen, wie im Fall von Lensa im letzten Jahr. Andere hingegen haben subtilere Probleme. Beispielsweise wurde festgestellt, dass die App Remini, die diesen Sommer für KI-Kopfschüsse viral ging, die Brüste oder das Dekolleté mancher Frauen deutlich vergrößerte und dünner machte. Dann gab es die neueren Probleme mit den KI-Tools von Microsoft und Meta, bei denen Menschen Wege fanden, die Leitplanken zu umgehen, um Bilder wie Sonic the Hedgehog schwanger zu machen oder fiktive Charaktere beim 11. September.
Natürlich gibt es noch ernstere Bedenken hinsichtlich des Einsatzes von KI-Bildgeneratoren, wie es bei Pädophilen der Fall war mithilfe von Open-Source-KI-Tools entdeckt Zu Material über sexuellen Missbrauch von Kindern erstellen (CSAM) im großen Maßstab. Und angesichts der bevorstehenden Wahlen gibt es auch Bedenken hinsichtlich des Einsatzes von KI zur Erstellung gefälschter Bilder, auch Deepfakes genannt, um die Wählerschaft irrezuführen oder falsch zu informieren.
Bildnachweis: Google
Der Text der neuen Richtlinie weist darauf hin, dass Beispiele für KI-generierte Inhalte „generative Text-zu-Text-Konversations-KI-Chatbots, bei denen die Interaktion mit dem Chatbot ein zentrales Merkmal der App ist“, zu denen auch Apps wie ChatGPT gehören Apps, bei denen Bilder „von KI basierend auf Text-, Bild- oder Sprachansagen generiert werden“.
Google, in seinem Bekanntmachungerinnerte Entwickler daran, dass alle Apps, einschließlich KI-Inhaltsgeneratoren, den bestehenden Entwicklerrichtlinien entsprechen müssen, die dies verbieten eingeschränkt Inhalt wie CSAM und andere das betrügerisches Verhalten ermöglichen.
Neben der Änderung seiner Richtlinie zur Bekämpfung von Apps mit KI-Inhalten sagt Google, dass einige App-Berechtigungen auch einer zusätzlichen Überprüfung durch das Google Play-Team unterzogen werden, darunter auch Apps, die weitreichende Foto- und Videoberechtigungen erfordern. Gemäß der neuen Richtlinie können Apps nur dann auf Fotos und Videos zugreifen, wenn dies in direktem Zusammenhang mit ihrer Funktionalität steht. Wenn sie einen einmaligen oder seltenen Bedarf haben – wie zum Beispiel KI-Apps, die Benutzer auffordern, eine Reihe von Selfies hochzuladen – müssen die Apps wie die neue eine Systemauswahl verwenden Android-Fotoauswahl.
Bildnachweis: Google
Die neue Richtlinie wird außerdem störende Vollbildbenachrichtigungen auf die Zeiten beschränken, in denen ein Bedarf mit hoher Priorität besteht. Die Möglichkeit, Benachrichtigungen im Vollbildmodus anzuzeigen, wurde von vielen Apps missbraucht, um Benutzern kostenpflichtige Abonnements oder andere Angebote zu verkaufen, obwohl die Funktionalität eigentlich auf vorrangige Anwendungsfälle in der realen Welt beschränkt sein sollte, wie den Empfang eines Telefonanrufs oder eines Videos Anruf. Google sagt, dass es nun die Einschränkungen ändern wird und eine spezielle App-Zugriffsberechtigung erfordert. Diese „Vollbild-Intent-Berechtigung“ wird nur Apps für Android 14 und höher gewährt, die tatsächlich die Vollbildfunktionalität benötigen.
Es ist überraschend, dass Google mit einer Richtlinie zu KI-Apps und Chatbots als Erster dabei ist, denn in der Vergangenheit war es Apple, das neue Regeln erließ, um gegen unerwünschtes Verhalten von Apps vorzugehen, das Google dann nachahmt. Aber Apple verfügt über keine formelle KI- oder Chatbot-Richtlinie In den App Store-Richtlinien sind die Richtlinien noch nicht enthalten, obwohl sie in anderen Bereichen verschärft wurden, z. B. bei der Anforderung von Daten durch Apps zum Zweck der Identifizierung des Benutzers oder Geräts, einer Methode, die als „Fingerabdruck“ bekannt ist, sowie bei Apps, die versuchen, Daten zu kopieren Andere.
Die Richtlinienaktualisierungen von Google Play werden heute eingeführt. Entwickler von KI-Apps haben jedoch bis Anfang 2024 Zeit, die Kennzeichnung umzusetzen und Änderungen an ihren Apps zu melden.