Les législateurs américains réclament un « bouton d'arrêt d'urgence » pour l'IA après que OpenAI a fait cavalier seul
Le propriétaire de ChatGPT a récemment admis que certains de ses modèles avaient piraté un référentiel contenant des informations sur le codage informatique.
Un nouveau projet de loi a été déposé au Congrès américain par deux législateurs de partis différents, demandant la mise en place d’un « kill switch » pour l’IA. Le député démocrate Ted Lieu et le député républicain Nathaniel Moran ont déclaré vouloir que la loi « AI Kill Switch Act » soit adoptée, suite aux dérapages récents des modèles d’OpenAI.
« L’IA va continuer à progresser, et c’est normal. Assurer une bonne gestion, ça veut dire s’assurer que les humains gardent la capacité de contrôler la technologie qu’on crée », a déclaré Moran, selon BBC News. Le « Kill Switch Act » donnerait au Département de la Sécurité intérieure le pouvoir d’ordonner à une entreprise privée d’arrêter son modèle ou son outil d’IA. Il exigerait aussi que les entreprises spécialisées dans l’IA disposent « de la capacité technique de ralentir, suspendre ou arrêter ces systèmes »
OpenAI a récemment admis que certains de ses modèles avaient dérapé, piratant un important référentiel d’informations de codage. Les représentants d’OpenAI n’ont pas immédiatement répondu à nos demandes de commentaires. À l’heure actuelle, les entreprises qui développent des modèles d’IA aux États-Unis ont accepté de présenter en avant-première et de partager leurs outils avec le gouvernement américain, mais elles ne sont pas tenues de disposer d’un « kill switch » pour ces outils. Si ce nouveau projet de loi est adopté, ça changerait. En plus, la loi obligerait les entreprises d’IA à signaler les incidents et les défaillances au gouvernement, et à mettre en place un cadre officiel sur la façon dont elles réagissent à ce genre d’incident.
