Discord a levé le bannissement d'environ 200 utilisateurs touchés par un bug qui identifiait les images en grille comme du contenu préjudiciable

Environ 200 comptes Discord ont été réactivés à la suite d'un bug qui avait conduit à la suspension définitive d'utilisateurs du service de messagerie, car des images à grille avaient été détectées à tort comme contenant du contenu préjudiciable. On a appris ce week-end qu'une faille dans les outils de modération par IA de Discord faisait que le service détectait à tort toutes les images à grille carrée comme contenant du contenu pédopornographique.

« Nos systèmes signalent les contenus en les comparant à du contenu préjudiciable connu. Ce type de comparaison de similitudes peut générer des faux positifs, c’est pourquoi un membre de notre équipe Trust & Safety examine toujours le contenu signalé avant qu’une quelconque mesure ne soit prise », a expliqué Discord dans un fil de discussion sur Twitter/X. L’entreprise a précisé que l’objectif principal du signalement était de suspendre les publications, plutôt que de bannir purement et simplement un utilisateur.

C’est ce bug qui était à l’origine des suspensions, et les comptes concernés ont été examinés et réactivés. Discord révèle que plus de 8 000 comptes ont été touchés par ce bug depuis mai de cette année, mais que tous ont été réactivés.

« On sait que ce n’est pas une explication satisfaisante si c’était ton compte, et on aurait dû s’en apercevoir plus tôt. On travaille à mettre en place de meilleures mesures de protection pour que ça ne puisse plus se reproduire en douce, et plus généralement, pour s’assurer que nos systèmes de sécurité ne pénalisent pas les gens qui n’ont rien fait de mal », a écrit Discord.

Du coup, si tu attendais de montrer ton inventaire Minecraft rempli de diamants, mais que tu ne voulais pas te faire bannir à cause de ce bug, il semble désormais que les fonctionnalités de reconnaissance de motifs de Discord aient été affinées pour éviter les bannissements injustifiés.