Google wird es Play Store-Nutzern ermöglichen, anstößige KI-generierte Inhalte ganz einfach zu melden

Google aktualisiert ständig seine Entwicklerrichtlinien, um die Qualität, Sicherheit und den Datenschutz von Apps im Android-Ökosystem zu verbessern. Diese Upgrades sollen eine sicherere und vertrauenswürdigere Umgebung für Android-Benutzer schaffen. Eines der bemerkenswerten Updates betont den ethischen Einsatz generativer KI-Modelle in Apps. Um verantwortungsvolle KI-Praktiken zu fördern, hat Google Entwickler gebeten, Nutzern die Möglichkeit zu geben, anstößige KI-generierte Inhalte in ihren Apps zu melden oder zu kennzeichnen. Das bedeutet, dass Apps, die KI-generierte Inhalte verwenden, ab Anfang 2024 eine Schaltfläche zum Markieren oder Melden anstößiger Inhalte hinzufügen müssen, um im Play Store von Google zu bleiben.Durch die Maßnahme wird sichergestellt, dass der Benutzer Feedback zu potenziell schädlichen Inhalten geben kann, ohne die App zu verlassen. Diese Änderung steht auch im Einklang mit dem Engagement von Google, sichere KI-Erlebnisse anzubieten. In der Zwischenzeit wird der Technologieriese auch andere Entwicklerrichtlinien einhalten, die die Generierung eingeschränkter Inhalte verbieten.

KI-Richtlinie des Google Play Store: Was sie abdeckt
In einem Blogbeitrag erklärte das Unternehmen, dass seine Richtlinie zu KI-generierten Inhalten KI-Chatbots, Apps zur Bildgenerierung und solche abdeckt, die Sprach- oder Videoinhalte von echten Menschen erstellen. Die neue Richtlinie gilt jedoch nicht für Apps, die KI-generierte Inhalte hosten oder KI nur zum Zusammenfassen von Materialien wie Büchern verwenden, sowie für Produktivitäts-Apps, die KI als Funktion nutzen.Google hat auch Beispiele für „problematische KI-Inhalte“ bereitgestellt. Dazu gehören nicht einvernehmliche Deepfakes von sexuellem Material, Aufnahmen von realen Personen, die zum Betrug bestimmt sind, falsche oder irreführende Wahlinhalte, Apps mit generativer KI, „die in erster Linie der sexuellen Befriedigung dienen sollen“, und die Erstellung bösartiger Codes.

Lesen Sie auch

Bei der Ankündigung der Änderungen stellte Google fest, dass generative KI „eine sich schnell entwickelnde App-Kategorie“ ist. Dies deutet darauf hin, dass das Unternehmen seine KI-Richtlinien im Zuge der Weiterentwicklung der Technologie möglicherweise überdenken wird.Änderungen an den App-Berechtigungen
Darüber hinaus aktualisiert Google auch die Foto- und Video-Berechtigungsrichtlinie des Play Stores, indem es den Umfang des Datenzugriffs durch Apps einschränkt. Das Unternehmen erklärt: „Fotos und Videos auf dem Gerät eines Benutzers gelten als persönliche und sensible Benutzerdaten und sollten mit den größtmöglichen Best Practices für den Datenschutz behandelt werden.“ Diese sensiblen Informationen machen Benutzer anfällig für Lecks oder Angriffsziele. Die Minimierung dieses Zugriffs trägt daher dazu bei, die Belastung für Entwickler durch den Umgang mit solchen sensiblen Daten zu vermeiden.“Google wird nur Apps erlauben, die umfassenden Zugriff auf Fotos und Videos benötigen, um weiterhin allgemeine Berechtigungen zu erhalten. In der Zwischenzeit müssen andere Apps, die Mediendateien nur begrenzt nutzen können, eine Fotoauswahl verwenden.



Ende des Artikels

gn-tech