Prenez une vidéo Youtube dont le titre comprend le mot « Gay« , « Transgenre« , ou « VIH » et soyez-sûr qu’elle sera démonétisée très rapidement après sa publication. Voilà le triste constat de trois youtubeurs, après une enquête de longue haleine sur les algorithmes de modération de la plateforme.
15 300 mots sur le banc d’essai
Pour mettre à l’épreuve ce système, les vidéastes ont pris une seule et même vidéo, et se sont amusés à glisser dans le titre et la description pas moins de 15 300 mots. Le but ? Voir si tels ou tels termes provoquent la démonétisation du contenu. Le résultat obtenu en dit long sur le fonctionnement des robots modérateurs de Youtube… Pour rappel, ce sont ces intelligences artificielles qui déterminent si oui ou non, une vidéo est « digne » d’accueillir de la pub. Et donc de rapporter de l’argent à son auteur.
« Drogue », « Violence », « Arme », « Herbe », « Homicide », « Tuer », tous ces termes effraient l’algorithme, au point de désactiver la monétisation de manière quasi-immédiate. Pour lui, aucun annonceur ne souhaite voir son nom accolé à ces thèmes. Jusque-là, ça se tient. Difficile d’imaginer Michel et Augustin sponsoriser une vidéo de CustomGrow 420 par exemple, youtubeur américain habitué à tester le cannabis sous toutes ses formes en direct.
Mais comment expliquer alors que les mots « homosexuel« , « gay » ou « bisexuel » provoquent exactement la même réaction de la part des robots Youtube ? Ces vidéos ne contreviennent pourtant à aucun moment aux règles d’utilisation et de monétisation de la plateforme. Comme le précise le Figaro, un clip appelé « Suis-je lesbienne » est de facto démonétisée, mais redevient « bankable » une fois le titre modifié en un « Suis-je heureuse ».
Les robots pointés du doigt
« Il n’y a pas de liste de mots relatifs à la communauté LGBTQ+ qui provoquent une démonétisation automatique« , affirmait un porte-parole de l’entreprise au quotidien français. Selon les dires du salarié, Youtube fait face à « un véritable défi technologique ». Un défi technologique que le géant du web a peut-être du mal à surmonter. Avec 500 heures de contenus publiées toutes les minutes, la tâche paraît en effet titanesque. S’ajoute à ça un sérieux problème : les mauvaise habitudes des robots.
Concrètement, le robot apprends à déterminer, à force d’entraînement, les contenus validés de ceux prohibés. Il va reproduire systématiquement ce schéma. Et faire des erreurs de jugement. Exemple : une vidéo à caractère clairement homophobe est repérée. Le titre contient le mot « Gay ». Le robot la bloque. Problème, il va à l’avenir stopper toutes les vidéos avec un vocabulaire similaire, car pour lui elles violent forcément les règles d’utilisation. Et que fait-on alors des youtubeurs qui œuvrent pour les droits des personnes LGBTQ+ ? Le vocabulaire est le même, mais le sens est lui diamétralement opposé. Ça, le robot ne le prend pas en considération.
Pour les vidéastes enquêteurs, Youtube n’est pas homophobe et ne cherche pas à isoler et à faire disparaître la communauté LGBTQ+. Les algorithmes et leurs manières de réguler le contenu, voilà le problème. Malheureusement, ce débat est ouvert depuis bien longtemps. La compagnie s’est déjà excusée à maintes reprises sur les dérives des ses robots, et sur la connivence à peine voilée avec les annonceurs, qui semblent pouvoir décider de tout : qui a le droit à de la pub ? Quel thème et quel créateur mérite d’être monétiser ? Etc. Au regard de cette enquête, ces excuses semblent bien avoir été prises à la légère.
