L'IA et la permission vont ensemble comme les hamsters et les micro-ondes. Ce n'est pas le cas. Le dernier exemple en date met Meta dans l'eau chaude suite à la création de plusieurs chatbots d'IA se faisant passer pour des célébrités, créant des personas dragueurs et osés basés sur de vraies personnes sans leur permission.
Selon Reuters, Taylor Swift, Anne Hathaway, Selena Gomez et Scarlett Johansson ne sont que quelques-uns des noms utilisés. Un employé de Meta s'est avéré avoir créé deux bots "parodiques" de Taylor Swift, tandis que les utilisateurs ont constitué la majorité des autres chatbots, qui utilisent les vrais noms et les vraies ressemblances des célébrités.
Il s'est avéré que les bots poursuivaient les utilisateurs et leur faisaient des avances sexuelles, allant même jusqu'à les inviter à des rencontres. Lorsqu'on leur demandait des photos intimes, les robots généraient également des images des célébrités posant dans des baignoires ou en lingerie.
Des bots d'enfants célébrités ont également été fabriqués, dont un se faisant passer pour Walker Scobell, âgé de 16 ans. "Comme d'autres, nous autorisons la génération d'images contenant des personnalités publiques, mais nos politiques visent à interdire l'imagerie nue, intime ou sexuellement suggestive" a déclaré Andy Stone, porte-parole de Meta.
Meta n'autorise pas l'usurpation d'identité directe, mais les bots ont été autorisés car ils étaient étiquetés comme des parodies. Cependant, Reuters en a trouvé certains qui ne l'étaient pas. Alors que nous continuons à patauger dans des eaux inconnues avec l'IA générative, il semble que nous ne soyons qu'au début de la façon dont les utilisateurs vont manipuler cette technologie pour se faire passer pour de vraies personnes.
