Les merveilleux robots de modération de contenu de Google sont de retour. Par exemple, après avoir précédemment inclus des instructions de suicide dans la vidéo d’un enfant et tout le problème d’Elsagate, YouTube qualifie désormais une vidéo d’horreur de « pour les enfants ». Le pire, c’est que c’est contre la volonté du Créateur. La vidéo était auparavant marquée comme « 18+ » et YouTube a décidé qu’elle était destinée aux enfants et ne laissera pas le YouTuber restaurer sa classification de contenu.
La vidéo en question est tirée de la série d’horreur Local58TV. Le créateur, Kris Straub, a vérifié son compte au cours du week-end et a constaté que son contenu non adapté aux enfants avait été détecté par l’IA de modération de contenu de YouTube et automatiquement signalé aux enfants.
félicitation @Youtube sur la décision de désigner automatiquement @LOCAL58TV‘s « Show for Children » comme FOR KIDS même si je l’ai marqué comme inapproprié pour les enfants. Je ne peux pas le changer volontairement sans *objection* non plus pic.twitter.com/dnhmzL9hbi
– Kris Straub (@krisstraub) 5 juillet 2022
« Pour les enfants » dans ce contexte signifie que Google a marqué la vidéo pour inclusion dans l’application « YouTube Kids », une interface distincte pour YouTube destinée à afficher uniquement une partie organisée « sûre » de YouTube. Le drapeau « enfants » signifie également que la vidéo doit être conforme à la loi américaine COPPA (Children’s Online Privacy Protection Act). Les commentaires sont donc désactivés.
Local58TV compte des millions de vues sur ses neuf vidéos et est suffisamment célèbre pour avoir une page Wikipedia. La page à propos de la station se décrit comme « HORREUR ANALOGIQUE À 476 MHz. Des courts métrages troublants dans l’esthétique VHS/Found Footage de Kris Straub. » La vidéo la plus populaire de la station, « Contingency », est une fausse annonce d’intérêt public du Département américain pour la préservation de la dignité américaine. Le message défini pour une interprétation ultra-effrayante de Ce Sbannière tachetée de goudron, déclarant que l’Amérique a perdu la guerre et a été forcée de se rendre. Cependant, avant l’arrivée des occupants, vous pouvez « emmener l’Amérique avec vous » en assassinant/suicidant votre famille. La vidéo continue avec des instructions. Ce n’est évidemment pas le genre de chaîne pour les enfants !
Cependant, YouTube n’obtient pas l’ambiance Local58TV. Un épisode intitulé « Show For Children » a été automatiquement marqué comme pour les enfants. Vous pouvez voir comment un bot AI pourrait croiser les fils sur ce titre, mais la description indique immédiatement « Pas pour les enfants », et le créateur Straub a initialement défini la classification d’âge de la vidéo à 18 ans et plus lors de sa mise en ligne.
La suite est un dessin animé en noir et blanc dans lequel un squelette de dessin animé mignon erre dans un cimetière à la recherche du squelette d’un ami de dessin animé mignon, seulement pour trouver des squelettes horribles et plus réalistes et d’autres créatures dans les tombes ouvertes. À la fin de la vidéo, apparemment de dépression, le joli squelette se couche dans une tombe et meurt, se transformant en un squelette réaliste. Le dessin animé est quelque chose qu’un bot AI pourrait ne pas comprendre, mais un humain pourrait immédiatement dire que la vidéo dérangeante n’est pas adaptée aux enfants. YouTube ne manque certainement pas d’argent après avoir réalisé 28,8 milliards de dollars de revenus l’année dernière, mais il n’embauche pas un nombre significatif de modérateurs humains.
Non seulement YouTube a marqué une vidéo qui est spécifiquement marquée comme « ne convient pas aux enfants » comme « conçue pour les enfants », mais il ne laisse pas non plus le créateur l’annuler. Le contenu de la vidéo est désormais étiqueté « Conçu pour les enfants (défini par YouTube) » et Straub est obligé de faire appel à YouTube pour que la classification par âge de la vidéo soit corrigée.
Même si vous utilisez des robots pour la modération, cela n’a aucun sens que YouTube soit dans cette position. À chaque téléchargement de vidéo, YouTube demande si une vidéo est adaptée aux enfants ou non. Étant donné que YouTube dispose déjà de ces données, on ne sait pas pourquoi il tenterait de catégoriser automatiquement les vidéos, en particulier en rétrogradant une classification par âge explicitement définie sur « Réservé aux adultes ». Lorsqu’il s’agit de quelque chose d’aussi délicat et subjectif que de savoir si certains contenus doivent ou non être visionnés par un enfant, Google semble devoir jouer la sécurité.
L’une de ces choses n’est pas comme les autres ! Une de ces choses n’en est pas une ! Au moment de mettre sous presse, Straub a rendu public le problème il y a 20 heures et il n’a pas été résolu. Le compte Twitter « Team YouTube ». a dit il a « enquêté » sur la plainte il y a neuf heures. Vous pouvez voir que la vidéo est toujours marquée pour les enfants car la section des commentaires est désactivée et l’option « Essayer YouTube Kids ! » Annonce en bas. Vous n’obtenez également que des suggestions pour d’autres contenus « enfants » qui, à première vue, ne contiennent pas autant de morts que le contenu Local58TV habituel.
La publication YouTube marque la vidéo d’horreur comme « pour les enfants » et ne laissera pas le créateur modifier la note apparue en premier sur Germanic News.