«Il y a un risque»: des contenus violents proposés aux ados sur les médias sociaux inquiètent
TVA Nouvelles
Malgré les nombreux dispositifs mis en place par les médias sociaux pour limiter la violence proposée à leurs utilisateurs mineurs, plusieurs adolescents y sont quand même exposés et parfois même contre leur gré.
• À lire aussi: Voici 4 choses à savoir sur Telegram, cette application utilisée par les organisations criminelles et terroristes
C’est ce que révèle la BBC dans un article qui présente le cas d’un garçon de 16 ans qui est tombé sur du contenu violent sur TikTok comme une vidéo d’une personne se faisant happer par une voiture ou des combats sans qu’il ne sache pourquoi.
Aujourd’hui âgé de 18 ans, le jeune homme avance qu’il n’est pas le seul dans son entourage à avoir été exposé à ce type de contenu au cours des dernières années.
Un ex-analyste de la sécurité du réseau social TikTok ayant aussi travaillé pour Meta, Andrew Kaung, explique au média anglais que les algorithmes sont guidés en grande partie par l’engagement de l’utilisateur envers une publication, qu’il soit positif ou négatif.
Par exemple, si un utilisateur commente une vidéo violente pour dire qu’il n’aime pas ce contenu, l’algorithme pourrait être porté à lui proposer davantage de contenu du genre étant donné qu’il y a porté attention.
Des adolescents pourraient également être exposés à ce type de contenu en raison de l’intérêt que d’autres personnes de leur âge y portent.
De leur côté, les compagnies derrière ces plateformes comme Meta ou TikTok disent avoir mis en place des dispositifs pour que la quasi-totalité des contenus qui ne respectent pas leurs conditions d’utilisation soit rapidement retirée par l’IA ou des modérateurs humains.
Cependant, Andrew Kaung avance que les employés de ces multinationales sont très peu au courant du type de contenu qui est concrètement proposé à leurs utilisateurs mineurs étant donné qu’ils travaillent surtout avec des statistiques concernant l’engagement et très rarement sur ce que contiennent les images et vidéos qui sont relayés.
