Ce n'est un secret pour personne : de nos jours, si tu cherches un nouvel emploi dans une grande entreprise, il y a de fortes chances que ton CV passe par un modèle d'IA avant d'arriver à des yeux humains. McDonald's a adopté le système McHire, en utilisant le chatbot Olivia pour recueillir les informations personnelles des candidats et les orienter vers des tests de personnalité et d'autres processus.
Comme le rapporte Wired, McHire n'est pas la plus sécurisée des plateformes d'embauche. En se connectant à un compte administrateur dont le nom d'utilisateur et le mot de passe étaient "123456", les chercheurs en sécurité Ian Carroll et Sam Curry ont trouvé des failles évidentes dans le système, qui auraient pu permettre à des acteurs malveillants d'accéder aux informations personnelles de chaque discussion qu'Olivia a eue avec les candidats de McDonald's.
"J'ai juste pensé que [McHire] était assez uniquement dystopique par rapport à un processus d'embauche normal, n'est-ce pas ? Et c'est ce qui m'a donné envie de m'y intéresser de plus près", explique Carroll. "J'ai donc commencé à postuler à un emploi, et puis au bout de 30 minutes, nous avions un accès complet à pratiquement toutes les candidatures qui ont été faites à McDonald's en remontant des années en arrière."
Il est bon de noter qu'aucune donnée de candidat n'a été piratée ou n'a fuité, grâce à la découverte de cette faille majeure dans le système, mais cela montre que malgré la grande confiance accordée à l'ancienne IA, elle n'est peut-être pas encore tout à fait prête à gérer de grandes responsabilités.
