Malaisie et Indonésie : les premiers pays à bloquer Grok de Musk à cause d'images d'IA sexualisées.

La Malaisie et l'Indonésie sont devenues les premiers pays à bloquer Grok, le chatbot d'intelligence artificielle construit par xAI, la société d'Elon Musk, après que les autorités ont déclaré qu'il était utilisé pour générer des images sexualisées et non consensuelles.

Les régulateurs des deux pays ont déclaré que les mesures de protection de Grok n'ont pas réussi à arrêter la création et la diffusion de contenus pornographiques manipulés, y compris des images impliquant des femmes et des mineurs. L'Indonésie a été la première à réagir au cours du week-end, suivie par la Malaisie, citant les risques pour la vie privée, la dignité et la sécurité publique lorsque de vraies photos sont modifiées sans consentement.

Le ministre indonésien des communications, Meutya Hafid, a qualifié les deepfakes sexuels non consensuels de grave violation des droits de l'homme, avertissant que l'utilisation abusive de l'IA dépasse les protections actuelles. Les fonctionnaires ont déclaré que les premières vérifications ont montré que Grok pouvait facilement être utilisé pour fabriquer des images explicites de citoyens ordinaires.

L'autorité malaisienne chargée des communications a souligné l'utilisation abusive et répétée du chatbot et a déclaré qu'elle avait déjà envoyé des avis à X Corp. et à xAI pour exiger des contrôles plus stricts. L'accès restera bloqué jusqu'à ce que des mesures de protection efficaces soient mises en place pour empêcher d'autres abus.

La répression en Asie du Sud-Est s'ajoute à la pression croissante exercée ailleurs. La Grande-Bretagne a ouvert une enquête sur Grok et s'apprête à interdire les applications dites de "nudification", tandis que les régulateurs en Europe et en Inde surveillent également de près, transformant le chatbot de Musk en un test mondial pour savoir jusqu'où les gouvernements iront pour contrôler le contenu généré par l'IA.