We Are Dreams in the Eternal Machine | Les limites d’un monde sur mesure

Paru en premier sur (source): journal La Presse

Jusqu’où l’intelligence artificielle nous mènera-t-elle ? Et qu’arriverait-il si l’on permettait à la « machine » de nous concevoir des existences sur mesure destinées à répondre à nos moindres désirs ? L’écrivain et journaliste canado-américain Deni Ellis Béchard a réfléchi à ces questions dans son nouveau roman qui vient de paraître en anglais, We Are Dreams in the Eternal Machine. Une dystopie troublante et terriblement captivante qui nous force à nous questionner sur un sujet brûlant d’actualité.

Bienvenue dans une nouvelle ère

Son roman (qui n’a pas encore été traduit en français) n’en était qu’à ses balbutiements lorsque Deni Ellis Béchard a commencé à réfléchir à un monde alternatif où l’intelligence artificielle (IA) créerait une nouvelle réalité, modulée en fonction des désirs de chaque individu. La pandémie semblait alors le moment idéal pour « explorer » les casques de réalité virtuelle. Puis l’écrivain globe-trotteur, joint en Amérique latine, où il s’est établi il y a quelques années, s’est mis à tester différents logiciels, dont ChatGPT. « Quand j’ai écrit le livre, j’ai décidé que je n’allais pas prendre position sur l’IA. J’allais faire une situation et j’allais la suivre à sa conclusion, souligne Deni Ellis Béchard. N’importe quelle technologie peut apporter des changements positifs et je ne suis pas du genre à dire que quelque chose est tout à fait mauvais ou tout à fait bon. J’essaie d’évaluer la technologie et de comprendre en quoi elle peut nous influencer. »

Un avenir presque parfait

Dès les premières pages de We Are Dreams in the Eternal Machine, on rencontre Ava, 95 ans, qui a été victime d’un accident vasculaire cérébral. Mais grâce à un nouveau traitement expérimental destiné à « réparer » son cerveau, tout son corps a rajeuni. Son compagnon des six dernières décennies, Michael, atteint de démence, fait lui aussi l’expérience de ce traitement miraculeux. Dans cet univers parallèle – une espèce de métavers dont Michael a été lui-même l’architecte –, le monde est en paix, après une deuxième guerre civile qui a causé une partition des États-Unis. Les gens sont plus heureux et plus gentils.

Vivre avec la machine

Ce qu’on découvre rapidement, c’est que chacun des personnages évolue dans une chambre bleue – à l’abri du danger, ses profonds souhaits exaucés – mais complètement isolé des autres. Lorsque Jae, la fille d’Ava et de Michael, cherche à comprendre pourquoi elle ne peut pas voir son enfant, la « machine » avec qui elle peut converser lui explique qu’elle a été programmée avec la mission de ne jamais nuire aux humains et de les protéger. Et la seule solution pour empêcher qu’ils ne se fassent du mal a été d’isoler les 7 milliards d’humains dans le monde dans des sortes de cellules virtuelles – y compris les mères de leurs enfants, puisque « les mères endommagent et tuent de nombreux enfants », lui répond la machine. « Ava, c’est quelqu’un qui ne voulait pas mourir et à qui est donnée l’immortalité ; elle trouve une façon de vivre avec l’immortalité, tandis que Michael, qui a l’impression au début qu’il a vaincu le monde, se rend compte qu’il est prisonnier, explique l’auteur. Chaque personnage essaie de trouver une façon de vivre avec la machine. Mais je ne voulais pas faire de morale. Je voulais juste essayer de voir comment des gens, avec leurs désirs, leurs peurs, leurs confusions, feraient face à une telle existence. Je voulais surtout montrer ce qui arrive quand on est déterminé par une force extérieure et, surtout, comment notre technologie va avoir les mêmes limitations que nous en tant que société. »

Une réflexion sur l’humanité

Que signifie être humain ? C’est la question fondamentale que pose le roman, estime Deni Ellis Béchard. « Pourquoi existons-nous si tout ce que nous faisons est d’augmenter notre plaisir, notre pouvoir et notre sécurité ? » Sans divulgâcher ce qui va menacer le bonheur des personnages, on découvre le rapport que chacun d’entre eux entretient avec la vie, leur attachement à leur existence telle qu’ils l’ont connue ou encore leur conception de ce qu’elle devrait être. Mais surtout, le sens de ce que signifie être en connexion avec les autres. « Quand on lit les journaux, des romans, de la poésie, qu’on écoute de la musique, on est tous en train de construire une certaine conscience partagée de la société. Nos algorithmes ont l’effet de nous isoler et de nous montrer ce qu’on croit déjà. Le danger avec l’intelligence artificielle, c’est qu’on va de plus en plus dans cette direction où, comme dans le livre, on est tous dans nos propres réalités, dans des mondes qui nous plaisent, mais on n’a plus vraiment accès à la conscience des autres. Si tout ce qu’on voit est généré par une intelligence artificielle, est-ce qu’on va perdre ce qui est fondamentalement l’humanité partagée ? », demande Deni Ellis Béchard.

Des divisions exacerbées

Selon l’écrivain, on ne peut pas continuer, en tant qu’individus, à être simplement pour ou contre l’IA. « La société est divisée entre les gens qui l’acceptent sans poser de questions et des personnes qui disent : “Je vais l’ignorer complètement.” Se couvrir les yeux, ça ne fait pas disparaître le tigre », illustre-t-il en riant. L’auteur croit que la population devrait être impliquée dans les décisions liées à l’intelligence artificielle, alors qu’en ce moment, les personnes qui ont le plus de contrôle sur ces machines sont celles qui ont déjà le plus de pouvoir dans le monde – « que ce soit Elon Musk ou des pouvoirs en Chine ou Meta », précise-t-il. « On a quelque chose qui est en train de changer la société tellement rapidement, qui est tellement puissant, mais ça avance sans qu’on ait vraiment de contrôle, sans qu’on puisse voter sur les valeurs de ces technologies. » Le danger, par ailleurs, est qu’on se retrouve à son avis avec des intelligences artificielles de gauche et d’autres de droite, qui viendraient exacerber les divisions sociales. « Je crois qu’on s’en va dans une situation encore plus extrême dans ce sens », alerte-t-il.

Le cas de DeepSeek

Interrogé sur DeepSeek, le nouveau rival chinois de ChatGPT, Deni Ellis Béchard a souligné que ce qui est intéressant avec ce robot conversationnel, ce n’est pas tant la qualité de ce qu’il peut produire – pas très différente de celle des autres intelligences artificielles, à son avis –, mais plutôt la rapidité et l’efficacité avec lesquelles il a été construit. « DeepSeek a, en gros, annoncé au monde que de nombreux pays, institutions et individus peuvent créer leur propre IA, que les IA vont se répandre et s’améliorer rapidement, et que, comme on dit en anglais, “le génie est sorti de la bouteille”. » La vraie question, selon lui, est de savoir maintenant comment les individus et les sociétés vont s’adapter à la présence d’une intelligence artificielle en évolution rapide tout en essayant de la contrôler. « Il semble désormais inévitable que toutes les générations futures grandiront en parlant et en interagissant avec des machines “intelligentes” comme une partie intégrante de leur vie, ce qui rend d’autant plus important de comprendre et de déterminer dès maintenant notre relation à l’IA. »

We Are Dreams in the Eternal Machine

Deni Ellis Béchard

Milkweed Editions

424 pages

[...] continuer la lecture sur La Presse.