Source : Pixabay. Les dangers de YouTube pour les enfants.
ActualitésEnfant

L’algorithme Nightmare de YouTube manipule les enfants

L’algorithme de recommandation de YouTube encourage les pédophiles à regarder des vidéos personnelles que les familles téléchargent et montrent à leurs enfants. Un rapport récent a détaillé comment YouTube exploite des mineurs via ce système automatisé.

Selon ce rapport, des chercheurs ont étudié l’influence de YouTube au Brésil lorsqu’ils ont constaté un effet alarmant. L’expérience de l’équipe impliquant un serveur qui suivait des milliers de fois les recommandations de YouTube, créant ainsi une sorte de carte montrant comment la plateforme guidait les utilisateurs. Lorsque l’expérience a révélé des recommandations issues de vidéos à caractère sexuel, les chercheurs ont remarqué que le système diffusait des vidéos plus bizarres ou extrêmes, mettant davantage l’accent sur la jeunesse.

Des recommandations dangereuses

Les vidéos de femmes discutant de sexe, par exemple, aboutissaient parfois à des vidéos de femmes en sous-vêtements ou des mères en train d’allaiter. Lors d’une expérimentation plus approfondie, YouTube aurait commencé à recommander des vidéos d’adultes portant des vêtements pour enfants et sollicitant des rapports sexuels moyennant de l’argent.

Voici une vidéo expliquant ces faits en anglais :

Après de telles recommandations fétichistes, YouTube a ensuite montré des vidéos d’enfants presque nus, beaucoup d’entre eux basés en Europe de l’Est et en Amérique latine. Ces vidéos semblaient souvent être vidéos téléchargées par les parents à la maison.

Une situation préoccupante

Des études ont montré que le système de recommandation de YouTube n’était pas fiable. L’algorithme recommande en effet un contenu de plus en plus extrême. Toutefois, la société a essayé d’esquiver le sujet.

YouTube n’a d’ailleurs pas fait de commentaires à ce sujet. Cependant, la plateforme a pris quelques mesures. Elle a notamment désactivé les commentaires dans les vidéos présentant des mineurs, interdit aux mineurs d’accéder à un contenu en streaming et réduit les recommandations de vidéos montrant des mineurs dans des situations à risque. Selon YouTube, la société aurait récemment amélioré son système d’apprentissage automatique afin de mieux identifier les vidéos susceptibles de mettre en danger les enfants.

Source :

Gizmodo

Laisser une réponse

Marc
Rédacteur en chef sur allofamille.
Recevez les meilleurs articles par email chaque mardi et jeudi
+ +
Inline
Inline