YouTube héberge une pléthore de vidéos, susceptibles de plaire à un large public, mais les vidéos peuvent parfois être un peu trop accessibles. Des animations pour adultes telles que «Happy Tree Friends» ou «Ne m'embrasse pas, je suis effrayée» peuvent plaire aux enfants avec leurs couleurs vives ou à des marionnettes rappelant Muppet, même si elles ne conviennent pas aux enfants. Mais il semble que la plate-forme de partage de vidéos pourrait traiter les plaintes avec une version mise à jour de l'application YouTube Kids qui serait surveillée par des humains, selon un rapport de BuzzFeed News. La demande de commentaire de YouTube de Romper concernant les rapports de la mise à jour n'a pas été immédiatement renvoyée.
L'idée est que cette nouvelle application coexisterait avec YouTube Kids, la tentative originale de l'entreprise utilisant un algorithme pour filtrer le contenu accessible aux enfants, selon BuzzFeed News. Le point de presse a indiqué qu'il donnerait aux parents la possibilité de désactiver les vidéos suggérées par algorithme. Au lieu de cela, les enfants n'auraient accès à aucune vidéo qui n'aurait pas été visionnée par un humain en chair et en os. Ca a du sens; Les algorithmes peuvent être formidables, mais il s’agit d’un programme informatique qui ne peut être codé que pour lire et marquer.
L’application YouTube Kids permet de bloquer les recherches de base de vidéos inappropriées; la recherche de contenu explicite n’affiche aucun résultat. De plus, les parents avaient la possibilité de supprimer le bouton de recherche dans son intégralité, ne laissant que les vidéos présélectionnées disponibles. Mais les problèmes liés aux vidéos proposées par YouTube Kids aux enfants existent depuis un certain temps, comme l'a signalé Tech Radar. Même si YouTube Kids est une tentative décente d'essayer de filtrer les informations préjudiciables, il est arrivé que l'application suggère des vidéos de complot aux enfants, comme l'a rapporté Business Insider.
Selon d'autres sources vidéo, Business Insider affirme que le monde est plat, que l'alunissage a été simulé et que la planète était gouvernée par des hybrides reptiles-humains. Cependant, YouTube Kids connaît des problèmes plus graves que les théories du complot depuis sa création en 2015. Moins de deux mois après la sortie de l'application, en mai 2015, la Campagne pour une enfance sans publicité, une coalition de groupes de défense des droits des enfants et des consommateurs, s'est plainte à la Federal Trade Commission (FTC). Leurs préoccupations concernaient le contenu du groupe appelé «non seulement… dérangeant pour les jeunes enfants, mais potentiellement dangereux».
En utilisant des personnages de dessins animés populaires, tels que Spiderman et Elsa, les YouTubers ont été en mesure d’attirer les enfants vers des vidéos offensantes. Selon Polygon, les vidéos commençaient normalement, mais montraient bientôt des princesses, des super-héros et d'autres favoris participant à des actes obscènes ou violents. Étant donné qu’un système basé sur un algorithme n’analyse pas la vidéo en entier, les YouTubers ont pu contourner le système en utilisant des noms et des miniatures de vidéos que l’algorithme considère comme sûrs pour les enfants.
Selon Polygon, le rapport mentionne également le langage sexuel explicite présenté au milieu de dessins animés, une parodie profane du film Casino mettant en scène Bert et Ernie de Sesame Street, des discussions illustrées entre adultes sur la violence familiale, la pornographie et le suicide d’enfants. des blagues sur la pédophilie et la consommation de drogues et la modélisation de comportements dangereux.
C’est là que l’application rapportée interviendrait. Au lieu de s’appuyer sur des algorithmes faciles à duper, tout le contenu devrait être filtré à travers de vrais humains. La source aurait indiqué à BuzzFeed News que l’option de la liste blanche de l’application pourrait être publiée dans les prochaines semaines. Selon BuzzFeed News, YouTube n'a pas nié les projets de l'application, mais aurait déclaré: "Nous travaillons toujours pour mettre à jour et améliorer les enfants de YouTube, mais nous ne commentons pas les rumeurs ni les spéculations."
Cependant, Susan Wojcicki, PDG de YouTube, a déclaré que la société élargirait son corps de modérateurs à plus de 10 000 contractants en 2018, selon Polygon, et qu'ils se concentreraient sur du contenu susceptible de violer les règles de YouTube. «Les réviseurs humains restent essentiels pour supprimer les contenus et les systèmes d'apprentissage automatique de la formation, car le jugement humain est essentiel pour prendre des décisions contextualisées en matière de contenu», a-t-elle écrit dans un article de blog de décembre 2017.
La déclaration suivante a été publiée par YouTube à l'époque dans Polygon:
Le contenu qui induit en erreur ou met en danger les enfants est inacceptable pour nous. Nous avons des politiques claires contre ces vidéos et nous les appliquons de manière agressive. Nous utilisons une combinaison d'apprentissage automatique, d'algorithmes et de marquage de communauté pour déterminer le contenu de l'application YouTube Kids. L’équipe YouTube est composée de parents qui s’intéressent beaucoup à cette question et qui sont résolus à améliorer chaque jour l’application.
Bien que YouTube n'ait pas encore confirmé le développement de cette nouvelle application, il semble que cela respecterait les politiques et les normes de la société. Espérons que YouTube continuera à répondre aux problèmes concernant YouTube Kids, afin que les parents puissent avoir confiance que leurs enfants ne seront pas initiés à des contenus troublants sur une application destinée aux enfants.
