Ted Chiang n’est pas seulement un écrivain de science-fiction réputé, auteur d’œuvres telles que « L’histoire de ta vie » (qui a ensuite été adaptée au cinéma sous le titre « Arrival ») et du recueil « Exhalation » ; c’est aussi l’un des visionnaires les plus perspicaces sur l’évolution de l’intelligence artificielle et sa mise en œuvre dans la société d’aujourd’hui. En tant qu’auteur visionnaire, on a eu l’honneur et le plaisir de discuter longuement avec lui lors de Celsius 232 dans le cadre d’une interview, dont tu peux lire la version complète ici.
Cependant, parmi tous les sujets dont on a discuté avec Chiang, le plus important et le plus révélateur est peut-être de savoir si la voie qu’on a empruntée aujourd’hui dans l’évolution de l’intelligence artificielle reste la même que celle qu’il avait esquissée il y a des années dans son œuvre. Sa réponse était aussi révélatrice que sans appel :
« Tout au long d’une grande partie de l’histoire de la science-fiction, l’idée de machines pensantes ou d’intelligence artificielle a été très courante, et les gens y sont souvent revenus. Je pense qu’il y a toujours eu de nombreuses questions philosophiques intéressantes autour de ce sujet. Mais ce qu’on a vu ces cinq dernières années environ, avec l’essor de l’IA générative, n’a rien à voir avec ce qui était exploré dans la science-fiction. Les questions qui intéressaient la science-fiction ne s’appliquent pas vraiment à la situation à laquelle on est confrontés aujourd’hui.
« Laisse-moi te proposer une façon d’envisager les choses.
« Avant, la science-fiction posait la question suivante : “Faut-il laisser une machine prendre tes décisions ?” Je trouve que c’est une question philosophique intéressante, car l’idée d’une machine qui prend de meilleures décisions que les humains (ou simplement d’une manière différente) soulève des arguments valables tant pour que contre le fait de lui faire confiance. Aujourd’hui, par contre, la question est plutôt : « Faut-il laisser Amazon prendre tes décisions ? »
« Je ne pense pas que ce soit une question philosophique intéressante. Je pense que la réponse est clairement « non, tu ne devrais pas ». Je ne vois pas d’argument philosophique valable pour laisser Amazon prendre tes décisions.
« Ce que je veux dire, c’est que l’IA générative (le logiciel qu’on appelle aujourd’hui « IA ») n’est pas une machine qui pense. En substance, c’est un outil au service du pouvoir des entreprises. Je ne pense pas qu’il y ait de bon argument philosophique pour se soumettre purement et simplement au pouvoir des entreprises. C’est dans l’intérêt des entreprises de soulever ces questions sur les machines pensantes et de laisser entendre qu’elles pourraient mieux réfléchir que toi.
« Mais ce n’est pas ce à quoi on a affaire en ce moment. Ce n’est pas la situation à laquelle on est confronté. Chaque fois qu’elles parlent de ces idées, ce n’est rien d’autre qu’un écran de fumée, parce que ce qui les intéresse, c’est d’accroître leur pouvoir sur les gens.
« Je pense donc qu’il est très important d’être clair sur la situation dans laquelle on se trouve réellement. La situation à laquelle on est confronté aujourd’hui n’est pas celle qui intéressait autrefois la science-fiction. La situation à laquelle on est confronté, c’est celle de la résistance face au pouvoir des entreprises. »