La Réorganisation de la Modération de Contenus

TikTok, le populaire réseau social appartenant à la société chinoise ByteDance, a récemment annoncé une refonte significative de son service de modération de contenus au Royaume-Uni. Ce changement s’inscrit dans le cadre d’une initiative mondiale visant à intégrer l’intelligence artificielle (IA) dans la modération des contenus publiés sur la plateforme.

Désormais, l’IA sera chargée d’analyser les vidéos en anglais et de déterminer automatiquement si elles respectent les directives de la plateforme. Cette information a été confirmée par un représentant de TikTok auprès de l’Agence France-Presse (AFP). Selon l’entreprise, 85 % des contenus qui enfreignent les règles sont déjà éliminés de manière automatique grâce à cette technologie.

Réactions des Experts

Toutefois, cette initiative n’est pas sans soulever des préoccupations. John Chadfield, responsable du syndicat britannique CWU pour le secteur technologique, a exprimé des doutes concernant l’efficacité de l’IA dans la modération. Il affirme que :

« Les employés de TikTok tirent depuis longtemps la sonnette d’alarme sur les conséquences de ces IA modératrices, qui sont souvent développées à la hâte et restent immatures. Cette décision pourrait mettre en danger des millions d’utilisateurs au Royaume-Uni. »

D’autres experts, comme Lloyd Richardson, directeur de la technologie au Centre canadien de protection de l’enfance, soulignent que l’IA peine à détecter certains contenus inappropriés. Selon lui, si l’IA remplace les modérateurs humains, la sécurité sur les réseaux sociaux pourrait fortement en pâtir. Il ajoute :

« Il faut des êtres humains. »

Les Limites de l’Intelligence Artificielle

Zhanerke Kadenova, une modératrice kazakhstanaise, partage également ses préoccupations concernant la fiabilité de l’IA en matière de modération. Elle revient sur son expérience en déclarant :

« On ne peut pas faire confiance aux suggestions de l’IA ; la plupart du temps, elles ne correspondent pas à la réalité. »

Bien que de nombreux experts s’accordent à dire que la modération humaine est plus efficace, cette dernière présente des défis en matière de santé mentale pour les employés. Les modérateurs sont souvent exposés à du contenu extrême, allant de la violence à des actes criminels graves, ce qui peut avoir des conséquences psychologiques notables.

Un Avenir Incertain pour les Modérateurs

TikTok a précisé que certaines fonctions de modération continueraient d’être gérées au Royaume-Uni, et que les employés dont les postes sont supprimés seront prioritaires pour d’autres offres internes ou pourront être réaffectés à d’autres sites en Europe. Cependant, cette réorganisation s’inscrit dans une tendance plus globale où l’IA remplace progressivement les modérateurs humains.

En effet, au cours des derniers mois, TikTok a déjà remercié un nombre considérable de modérateurs à travers le monde, que ce soit aux Pays-Bas, en Malaisie ou en Allemagne, où des grèves ont été déclenchées en raison de licenciements massifs.

En France, lors d’une audition à l’Assemblée nationale, une représentante de TikTok a indiqué qu’il existait environ 509 modérateurs francophones œuvrant pour l’Europe.