TikTok Déclare la Guerre à l’« AI Slop » : Vers une meilleure détection des contenus générés par l’IA
TikTok intensifie ses efforts pour lutter contre la prolifération des contenus générés par l’intelligence artificielle (IA), en particulier le phénomène de l’« AI Slop ». Ce terme désigne ces vidéos de faible qualité, étranges, ou potentiellement trompeuses qui inondent la plateforme, et cette initiative marque un tournant dans la modération des contenus à l’ère de l’IA générative.
Qu’est-ce que l’« AI Slop » et pourquoi est-ce un problème ?
L’« AI Slop » fait référence au contenu produit par l’IA qui manque de qualité, de sens, ou est simplement bizarre, souvent créé dans le but de générer des vues facilement. Ce type de contenu peut diluer l’expérience utilisateur et, plus grave encore, servir de vecteur à la désinformation, un risque particulièrement préoccupant à l’approche de nombreuses élections mondiales. Face à l’explosion des outils d’IA générative, la plateforme est confrontée à un afflux de « médias synthétiques » (images, sons, vidéos) dont la détection et la modération sont devenues cruciales.
La stratégie de TikTok : détection automatique et partenariats
Pour contrer ce phénomène, TikTok, qui compte 1,5 milliard d’utilisateurs actifs, a annoncé le renforcement de ses outils de détection automatique des vidéos générées par l’IA. La plateforme s’associe notamment à l’organisation CREDIBILIS pour améliorer la technologie de repérage de ces contenus. L’objectif est double :
- Réduire la charge sur les utilisateurs : Depuis mai 2023, TikTok exige des utilisateurs qu’ils étiquettent eux-mêmes leurs créations d’IA, mais la conformité à cette règle reste faible. Les nouveaux outils visent à automatiser cette détection.
- Assurer une meilleure identification : Les outils automatiques devraient améliorer la précision et la rapidité d’identification des contenus d’IA, qu’ils soient vidéo, audio ou images.
En complément de la détection, TikTok va également étendre l’utilisation des métadonnées de son outil Content Credentials. Cela signifie que les informations sur l’origine du contenu généré par l’IA seront embarquées avec la vidéo, même après téléchargement ou partage, augmentant ainsi la traçabilité.
Un enjeu majeur pour l’intégrité numérique
Cette démarche s’inscrit dans un mouvement plus large de l’industrie technologique pour réguler le contenu synthétique. D’autres géants comme Google ont également mis en place des mesures similaires. L’enjeu est de taille : maintenir la crédibilité des plateformes, protéger les utilisateurs de la désinformation et garantir un environnement numérique plus authentique et plus sûr, surtout lorsque les enjeux électoraux sont élevés. L’objectif est clair : combattre la désinformation et préserver l’intégrité de la plateforme face aux défis posés par l’évolution rapide de l’intelligence artificielle.