Tout commence ce samedi 3 octobre 2020 lorsque Jackson McLean, responsable de Gaze Seed Co., un magasin spécialisé dans la vente de semences et d’engrais situé au Canada, poste une photo d’oignons Walla Walla. Il s’agit d’une variété locale, qui pousse dans la région où se situe la boutique.
Histoire de mettre en scène ses produits, le maraîcher installe confortablement les bulbes dans un panier en osier. Ça fait bio, ça fait terroir, ça donne envie certes, sans non plus nous faire monter aux rideaux. Visiblement pas pour l’algorithme de Facebook qui a rapidement censurée la photographie. « Nous avons été informé l’autre jour que c’est l’image qui été jugée « trop sexualisée » et qu’ils ont dû l’interdire du site », explique le patron de la boutique, amusé par la situation.
Il poursuit : « Il faut avoir beaucoup d’imagination pour regarder ça et en tirer quelque chose de sexuel. Je suppose que quelque chose dans les deux formes rondes pourrait être mal interprété comme des seins ou quelque chose comme ça », pense-t-il. Facebook a rapidement eu vent de l’histoire et un modérateur a rapidement remédié à la situation.
À lire également : Un ancien de Facebook balance : le réseau social est « aussi addictif que le tabac »
L’algorithme de Facebook a encore des progrès à faire
Comme vous le savez peut-être, le réseau social de Mark Zuckerberg utilise un algorithme chargé de détecter automatiquement et bannir les « contenus montrant la nudité ou à connotation sexuelle ». Meg Sinclair, responsable des communications de Facebook Canada, s’est fendue d’une petite explication savoureuse auprès de nos confrères de CNBC : « Nous utilisons une technologie automatisée pour empêcher la nudité dans nos applications. Mais parfois, il ne reconnaît pas la différence entre un oignon Walla Walla et, bref, vous savez ce que je veux dire. Nous avons restauré la publication et nous sommes désolés du problème rencontré par l’entreprise », assure-t-elle.
Dans tous les cas, il va falloir apporter quelques modifications sur cet algorithme, en lui apprenant par exemple le sens figuré via un schéma tout simple : photo d’un oignon Walla Walla = pas de censure, photo de l’oignon de Gérard = censure. Mais qui sait, peut-être qu’en publiant une photo de votre oignon, l’algorithme le prendra pour un légume. Blague à part, ce n’est pas la première fois que les différents algorithmes de Facebook déraillent à plein régime. On se souvient par exemple du traducteur auto de Facebook qui avait insulté le président chinois par erreur. En effet, le logiciel avait traduit Xi Jinping par « trou de merde », en passant du birman à l’anglais.
Source : CNBC Canada
