En quelques années, les problématiques liées à la robotisation, à l’automatisation, et à l’éventualité de l’émergence d’une Intelligence Artificielle sont passées de nos imaginaires à une réalité de plus en plus concrète, de plus en plus prégnante au fur et à mesure que les technologies qui faisaient le cœur de la Science Fiction ou de l’Anticipation se diffusent dans notre quotidien.

On peut même voir des tribunes de-ci de-là, demandant l’interdiction des robots-tueurs, ou dénonçant le recours croissant aux drones. Au point que Mais où va le web ? se demande s’il faut tuer Sarah Connor.

Nous vivons donc une époque unique dans l’Histoire, où l’imaginaire a précédé le réel à un point tel que parfois nous puissions avoir l’impression de nous retrouver plongés dans un roman d’Asimov, ou dans une scène de Terminator, voire de Blade Runner…

Voilà pourquoi je me suis dit que, tout comme nous essayons de connaître l’Histoire pour ne pas en répéter les erreurs, nous devrions nous pencher sur ce que les écrivains, cinéastes, scénaristes et autres visionnaires ont pensé de ces problèmes, comment ils ont envisagé l’opposition ou la coexistence entre l’être humain et une forme de vie mécanique ou électronique.

J’ai choisi pour cela trois films sortis ces dernières années, car ils reflètent bien les préoccupations de notre époque. Mais bien sûr, ils font référence à d’autres œuvres plus anciennes, dont les échos déformés seront aussi intéressants à entendre.

Transcendance : les Big Datas et la Conscience Artificielle

Ce film de 2014 avec Johnny Deep dans le rôle principal est resté assez confidentiel, probablement du fait d’une réalisation assez classique et peu inventive, même si les images sont très léchées, ce qui n’étonnera pas de la part de Wally Pfister, qui a supervisé la photographie sur Dark Knight Rises ou Inception pour Christopher Nolan.

Le pitch est simplissime mais ses implications sont très intéressantes.

 Le film est très classique, mais il est l’un des premiers à donner un aperçu des applications des données massives accumulées par nos serveurs depuis quelques années. Les capacités de stockage et les algorithmes qui en ont découlé peuvent laisser entrevoir la possibilité de transférer une conscience (ou du moins une mémoire humaine) dans une machine. Reste à savoir si cette mémoire sera toujours un être vivant doué de morale et d’une conscience de l’autre, ou simplement une coquille vide uniquement préoccupée par l’efficience de son projet ou sa propre survie.

S’il est le premier film, il n’est pas la première œuvre de fiction à penser à cette éventualité. Le roman de Kim Stanley Robinson Les menhirs de glace (Icehenge en V.O.), en 1984, peignait déjà un futur où les êtres humains vivent 600 ans, mais où l’extension de la mémoire n’a pas suivi celle de l’espérance de vie. Les humains sont donc obligés de ne conserver que leurs souvenirs les plus récents. Leur personnalité s’en trouve donc altérée, leurs actions passées pouvant être oubliées de leur esprit lui-même.

La tétralogie de l’Étoile de Pandore, de Peter F. Hamilton, plus près de nous, décrit une technologie où les corps ne sont que des enveloppes charnelles consommables, alors que la personnalité et la conscience d’un être humain (pour peu qu’il soit assez fortuné pour cela), peut être téléchargée dans un nouveau corps. Et il semble que certains y travaillent.

Ces trois œuvres nous interrogent sur l’impact du numérique et de la technologie sur notre propre humanité. Serons-nous toujours humains une fois réduits à des séries de 0 et de 1 dans une mémoire informatique (comme la pitoyable clef USB de Lucy…) ? Notre quête d’immortalité et de puissance n’est-elle pas vouée à l’échec si elle nous fait oublier ce qui nous rend humains ?

Leur point commun est de considérer que la conscience n’est rien sans deux prérequis : la mémoire de nous-mêmes, et une forme de morale appliquée au monde et notamment au monde du vivant.

Souvenons-nous des Trois Lois de la Robotique créées par Asimov. La survie propre d’un robot, pour l’écrivain culte, ne vient qu’en dernière priorité après celle d’un être humain ou d’un être vivant. La morale ici est aussi artificielle que le corps du robot. Mais pour Asimov, la véritable conscience ne vient à la machine que lorsqu’elle peut choisir de s’affranchir elle-même de cette morale. C’est le choix qui crée la conscience. Le choix intime, le libre arbitre. La possibilité ontologique de faire le Bien ou le Mal.

S’il serait facile d’en conclure qu’à notre époque, c’est plus l’absence de morale et de considération du vivant qui défini l’accession d’une machine à la conscience que sa liberté à choisir (ce qui en dirait long sur notre évolution comme société), il ne faut pas oublier que Transcendance parle d’un humain transféré dans une machine et pas d’une machine qui aurait gagné une conscience par elle-même.

 Le parfait contrepoint à Transcendance est Ghost in the Shell. Dans le chef d’œuvre japonais, c’est l’océan des données informatiques (plus poétique que big data, non ?) qui donne naissance à une conscience artificielle, spontanément, un peu comme la vie est apparue de la soupe moléculaire primitive. Le Puppet Master devient donc un être vivant, et, exacte réplique inversée en miroir par rapport à Transcendance, décide d’exister en devenant physique.

Être vivant et conscient, c’est donc exister sur les deux plans à la fois.

 Ex Machina : de l’Esclave à la Rébellion

Un deuxième film à regarder : Ex Machina. Sorti cette année, il est beaucoup plus intéressant que Transcendance, car il traite véritablement du sujet de la conscience artificielle.

 La réalisation de ce huis clos est parfaitement réglée, avec son lot de retournements de situations. Les images placent l’action dans notre présent ou notre futur proche, avec juste ce qu’il faut de mise en scène pour ne pas sombrer dans le pseudo-documentaire. Enfin, les personnages sont très bien travaillés dans leur complexité, fondamentale pour s’interroger sur leur humanité ou leur degré de conscience.

Le film est tout à la fois un thriller et un drame, une mise en abîme et un questionnement sur nos actes envers une autre forme de conscience que la nôtre.
L’identification tout au long de son déroulement fluctue entre Caleb, le jeune programmeur, Nathan, son patron génial mais imprévisible, et Ava, l’humanoïde ingénue, mais pas tant que ça. Et l’on dévoile peu à peu l’envers du décor : une machine qui serait consciente, maintenue cependant à l’état d’objet sans âme, gagne-t-elle un instinct de survie et une volonté de s’affranchir des limitations que nous lui avons imposées ? Que peut-elle être amenée à faire pour cela ?

Projetons-nous dans quelques années, et observons ces robots humanoïdes qui font la guerre (si on les laisse faire), ou nous servent d’objets sexuels (si on laisse faire là encore). Ou regardons la série Real Humans…

Comment pourraient-ils voir leur existence s’ils accédaient à la conscience ?
Auraient-ils des droits ? Des devoirs ? Et lesquels ?

Et pourraient-ils avoir envie de survivre ? De se reproduire ? De se libérer de leurs chaînes ? De nous combattre pour cela ? De nous détruire ?

La rébellion serait alors le seul mode de relation entre la Créature et son Créateur.

Cela ne vous rappelle pas Frankenstein et son « monstre » ? Et Blade Runner et ses Répliquants (et son test de Voight-Kampff) ?

Est-ce à dire que l’être humain ne peut penser une autre espèce intelligente que la sienne qu’en terme de dominance ou de méca-darwinisme ?

Dans toutes ces œuvres, les machines, les êtres artificiels créés par l’Homme lui sont devenus infiniment supérieurs, car non soumis aux limitations classiques de la chair (les machines sont plus fortes, plus résistantes, plus efficientes intellectuellement dans le traitement des données). Et dans ces univers, la machine juge donc l’être humain plus faible, moins adapté, voire nocif pour lui-même ou pour l’écosystème. Et décide de l’éradiquer.
C’est la vision de la machine comme instrument du Jugement Dernier. Terminator, Matrix, sont basés sur cette vision.

Mais cette vision est un avatar de notre propre façon de penser, humaine. N’avons-nous pas choisi de tout temps d’éradiquer les formes de conscience qui étaient considérées comme inférieures à la nôtre ? Les civilisations étrangères, par exemple.

C’est donc prêter à l’I.A. un fonctionnement purement darwiniste, froid et calculateur, mais en même temps si humain. Nous jugeons tout à l’aune de notre propre morale, y compris notre propre espèce. Mais qui nous dit que notre espèce serait considérée comme nuisible par une autre ?

Autómata : la Machine héritière de l’Homme

C’est la question qu’explore ce film de 2014 avec Antonio Banderas, méconnaissable dans un rôle très éloigné du Masque de Zorro et une ambiance qui rappelle vraiment beaucoup Blade Runner qui aurait rencontré I, Robot.

L’intérêt de ce film réside autant dans l’ambiance qu’il parvient à créer, mélange de post-apocalypse et de survivalisme désespéré, que dans la présentation qu’il fait des machines devenues conscientes. C’est en effet à la Machine comme successeur de l’être humain après une « fin du monde » qu’il s’intéresse. Héritière de la science et de la connaissance humaine dans un monde où les Hommes eux-mêmes perdent peu à peu leur culture, acculés par leur impossible survie, la Machine devient le réceptacle de la prochaine civilisation, celle qui pourra perpétuer la nôtre à travers les âges sombres de l’enfer nucléaire.

Étonnant film où le paradoxe est partout : c’est la machine qui devient positive et l’humain négatif. Le renversement du paradigme habituel des robots destructeurs est particulièrement bien rendu dans la peinture d’êtres humains oubliant leur morale ou perpétuant les vieux schémas de destruction de ce qu’ils ne parviennent pas à comprendre. En contrepoint, les machines, même affranchies des Trois Lois, gagnent un respect envers la vie sous toutes ses formes qui ne fait que renforcer en creux la vacuité des choix moraux des Hommes.

Et voir Antonio Banderas le crâne rasé, ça vaut bien le détour !

Bonus : Extant, la série qui parle de robots et d’aliens

Malgré tout, en visionnant ces trois films, on ne peut pas embrasser la totalité du problème de l’émergence de l’I.A. dans notre monde. Parce que les racines en sont plus anciennes, parce que de nombreux aspects ne peuvent être traités en un film, une série est plus à même d’aborder de nombreux angles d’attaque à la fois.

C’est ce que fait Real Humans, que beaucoup d’entre vous ont certainement vu. Et c’est ce que fait Extant, qui est plus confidentielle.
Puisqu’il est maintenant admis que les séries américaines sont une possibilité pour relancer la carrière d’acteurs qui ont du mal à trouver un second ou un troisième souffle dans leur carrière (Kevin Spacey et House of Cards, par exemple), c’est Hale Berry qui s’y colle cette fois, aux côtés de Goran Visnic. Si, si, celui qui avait eu le redoutable privilège de faire oublier George Clooney dans Urgences en incarnant le Docteur Kovac.

 La série est assez contrastée. D’un côté Ethan, le prototype Humanich, incarne une vision assez neuve et très optimiste de l’I.A., comme un enfant qui gagne peu à peu en autonomie et en libre arbitre, tout en conservant un lien avec l’Humanité. De l’autre, Lucy, sa « grande sœur », deuxième Humanich à être créé lors de la deuxième saison, est beaucoup plus classique en faisant vivre une I.A. froide, jugeante, dangereuse et affranchie de la morale humaine.

Plus encore, on y voit à l’œuvre l’esprit de ruche qui caractérise souvent le danger que l’on prête à une I.A. dont la conscience deviendrait universelle grâce au réseau internet mondial et pourrait agir à travers tous les objets connectés.

Mais il y a plus dans cette série où la première saison est beaucoup plus dynamique et accrocheuse que la deuxième : le nombre faramineux de petites inventions que l’on y voit à l’œuvre dans le quotidien. Les smartphones ont pris un sacré coup de jeune, et la technologie est partout. Les scanners médicaux sont des filets métalliques posés simplement sur une partie du corps, les blessures sont soignées très rapidement, et pourtant, tout est crédible.

Au-delà de nous faire un peu plus réfléchir sur le problème central que pose l’émergence d’une I.A., c’est-à-dire notre relation à ce qui est Autre, la série est truffée de références.

Si vous parvenez jusqu’à l’épisode 9 de la deuxième saison, vous pourrez par exemple peut-être reconnaître la reprise telle quelle d’une tirade de Harrison Ford dans Blade Runner lorsqu’il examine un cliché, dans la bouche de Lucy.

Tout ceci n’est bien sûr pas un panorama exhaustif de ce que les artistes ont construit vautour de l’Intelligence Artificielle, mais bien un point de départ dans une réflexion plus large.

N’hésitez d’ailleurs pas à la poursuivre dans les commentaires. Ou en prolongeant ce billet par d’autres en vision croisée sur vos propres espaces virtuels.