TikTok développe la détection automatique de contenu AI et introduit une nouvelle étiquette ‘généré par AI’ pour les créateurs

TikTok lance un nouvel outil pour étiqueter le contenu généré par l’IA

Le contenu généré par l’intelligence artificielle se propage de plus en plus dans le monde des médias numériques, et une demande clé des décideurs politiques et des groupes de la société civile a été de pouvoir étiqueter ce contenu.

L’idée est d’empêcher le contenu généré par l’IA de tromper les auditeurs, par exemple avec des « deepfakes » qui peuvent donner l’impression qu’une personne a dit quelque chose qu’elle n’a jamais réellement dit, ou faire croire qu’un artiste musical a interprété une chanson qu’il n’a jamais enregistrée (voir la célèbre controverse du « faux Drake » plus tôt cette année).

Maintenant, c’est au tour de TikTok de prendre des mesures dans ce sens, en annonçant mardi (19 septembre) qu’il déploie un nouvel outil qui permettra aux créateurs d’étiqueter le contenu généré par l’IA qu’ils téléchargent sur la plateforme de médias sociaux.

TikTok annonce également qu’il teste de nouveaux outils automatisés pour étiqueter le contenu « que nous détectons comme ayant été modifié ou créé avec l’IA ».

Les nouvelles règles ont été élaborées en collaboration avec les différents conseils consultatifs de sécurité de TikTok dans le monde, et le terme « généré par l’IA » a été retenu pour l’étiquette, car il est « largement compris… par différents groupes démographiques à travers le monde ».

De plus, TikTok annonce qu’il va renommer les filtres qu’il propose aux utilisateurs pour leurs téléchargements vidéo, afin de préciser ceux qui utilisent la technologie de l’IA. À l’avenir, ces filtres porteront le nom « IA ».

Le site de médias sociaux a suscité une certaine controverse plus tôt cette année avec un filtre appelé « Bold Glamor », qui donne l’illusion que les sujets vidéo sont plus jeunes et plus « attrayants » qu’ils ne le sont réellement.

Alors que certains craignaient que ce filtre ne promeuve des normes de beauté irréalistes, d’autres ont critiqué TikTok pour ne pas avoir initialement révélé que le filtre utilisait la technologie de l’IA.

L’annonce de TikTok concernant les étiquettes de contenu généré par l’IA fait suite à la publication de nouvelles normes communautaires plus tôt cette année, qui définissent la frontière entre une utilisation acceptable et inacceptable de l’IA sur le contenu téléchargé sur la plateforme.

Selon ces règles, les utilisateurs sont tenus d’étiqueter tout contenu créé ou significativement modifié par la technologie de l’IA. Les règles interdisent également certains types de contenu généré par l’IA, tels que les vidéos utilisant la ressemblance (vidéo ou audio) d’une personne privée réelle, ainsi que le contenu qui a été manipulé « de manière à tromper une personne sur des événements réels ».

La politique autorise cependant l’utilisation de contenu généré par l’IA mettant en scène des personnalités publiques, mais pas s’il est utilisé à des fins politiques ou commerciales, ou s’il enfreint toute autre politique de contenu de TikTok.

« L’IA offre d’incroyables opportunités créatives, mais peut potentiellement confondre ou tromper les spectateurs s’ils ne sont pas conscients que le contenu a été généré ou modifié par l’IA », déclare TikTok dans un communiqué. « L’étiquetage du contenu contribue à résoudre ce problème en indiquant clairement aux spectateurs quand le contenu est considérablement modifié ou modifié par la technologie de l’IA ».

La politique de TikTok concernant l’IA est similaire, mais moins rigoureuse, que celle de son application sœur en Chine, Douyin.

Ces politiques – qui ont suivi les réglementations du gouvernement chinois visant à lutter contre les préjudices potentiels causés par le contenu généré par l’IA – incluent une exigence d’étiquetage pour le contenu généré par l’IA, mais obligent également les créateurs de contenu à enregistrer toute « personne virtuelle » utilisée sur la plateforme avec Douyin ; interdisent l’utilisation de l’IA pour créer du contenu en violation des droits d’auteur ; et interdisent l’utilisation de l’IA pour créer du « contenu qui viole le sens commun scientifique, qui est falsifié ou qui propage des rumeurs ».

« L’IA offre d’incroyables opportunités créatives, mais peut potentiellement confondre ou tromper les spectateurs s’ils ne sont pas conscients que le contenu a été généré ou modifié par l’IA. L’étiquetage du contenu contribue à résoudre ce problème en indiquant clairement aux spectateurs quand le contenu est considérablement modifié ou modifié par la technologie de l’IA. » – TikTok

La tendance de l’étiquetage du contenu IA se renforce

L’idée d’étiqueter le contenu IA gagne du terrain, tant dans le monde des affaires que politique.

Le projet de loi de l’Union européenne sur l’IA, actuellement en cours de processus législatif, rendrait obligatoire l’étiquetage de tout contenu généré par l’IA. Cette loi ne devrait pas entrer en vigueur avant 2026. Entre-temps, la Commission européenne a demandé aux géants de la technologie d’appliquer volontairement les règles d’étiquetage de l’IA.

Alphabet Inc. a annoncé plus tôt ce mois-ci que son service Google exigerait des annonceurs politiques de mettre clairement l’étiquette sur tout contenu d’image, de vidéo ou d’audio généré par l’IA qu’ils utilisent dans leurs publicités. Cette politique s’appliquera à toutes les plates-formes de Google.

Cela fait suite à une controverse plus tôt cette année, lorsque la campagne présidentielle du candidat républicain Ron DeSantis a utilisé des images deepfake du candidat rival Donald Trump dans des publicités diffusées sur Twitter.

Google a également dévoilé un nouvel outil pour détecter les images générées par l’IA, tandis qu’OpenAI, le développeur soutenu par Microsoft du chatbot d’IA très populaire ChatGPT, a publié un outil de détection du texte généré par l’IA.

La détection du contenu généré par l’IA est également devenue une préoccupation pour l’industrie musicale. Les professionnels de l’industrie ont exprimé à plusieurs reprises leurs inquiétudes quant à l’utilisation de l’IA pour créer des morceaux de musique frauduleux qui privent les artistes légitimes de revenus de streaming.

L’industrie musicale craint également l’apparition de deepfakes générés par l’IA d’artistes réels, par exemple le morceau « faux Drake » mentionné ci-dessus qui est devenu viral plus tôt cette année, cumulant des centaines de milliers de vues et de streams sur les plateformes de médias sociaux (dont TikTok) avant d’être finalement retiré.

Le service de streaming Deezer a annoncé plus tôt cette année qu’il développait un ensemble d’outils qui lui permettraient de détecter le contenu généré par l’IA sur sa plateforme, et vise à mettre au point un système pour étiqueter la musique créée par des IA génératives, en commençant par les chansons utilisant les voix synthétiques d’artistes existants.

Deezer a déclaré à MBW qu’en 2022, environ 7 % des flux sur la plateforme étaient détectés comme étant frauduleux.

« Il existe aujourd’hui sur le marché des technologies qui peuvent détecter un morceau généré par l’IA avec une précision de 99,9 %, comparé à un morceau créé par un humain. » – Denis Ladegallerie, Believe

Pendant ce temps, Denis Ladegaillerie, PDG de Believe, a déclaré ce printemps que sa société de musique numérique, qui exploite également le service de distribution de musique numérique TuneCore, souhaite arrêter la distribution de musique générée par l’IA, et que les outils pour détecter ce contenu existent déjà.

« Nous avons mis en place un certain nombre de contrôles de qualité dans notre entreprise et nous visons à ne pas distribuer de contenu qui soit entièrement créé par l’IA, que ce soit par le biais de Believe ou de TuneCore », a-t-il déclaré lors de la conférence sur les résultats du premier trimestre de l’entreprise en avril.

« Il existe aujourd’hui sur le marché des technologies qui peuvent détecter un morceau généré par l’IA avec une précision de 99,9 %, comparé à un morceau créé par un humain », a ajouté Ladegaillerie.

« Ce qui nous rend très optimistes, c’est le fait que la possibilité de contrôler les téléchargements IA est là. Maintenant, il faut la déployer partout. »