Les androïdes rêvent-ils de moutons électriques ? Le titre de ce roman culte de Philipp K. Dick renvoie tout un chacun à une question on ne peut plus d’actualité. Si pour Sigmund Freud, le père de la psychanalyse, le rêve est la voie d’accès royale à l’inconscient, se pourrait-il que des machines en soient pourvus, et donc par extension d’une conscience, d’une subjectivité ?
Table des matières
Conscience et remplacement ?
Cette question revient sur le devant de la scène avec la fulgurante percée de l’Intelligence Artificielle (IA) ces derniers temps : la machine pourrait-elle avoir une conscience, des sentiments, des états d’âmes ? Le sujet est l’objet de débats et réflexions depuis des décennies, on en retrouve notamment une des premières traces dans l’œuvre de l’écrivain américain Isaac Azimov. Dans ses théories les plus connues, figure celle des trois lois de la robotique, que l’on observe notamment dans le film I Robot. Ces lois sont censées protéger les humains d’une hypothétique révolte des machines qui se retourneraient contre leurs créateurs. C’est un des thèmes des célèbres sagas Terminator et Matrix.
Cette crainte ressurgit depuis peu de temps avec le rapide déploiement de ChatGPT et consort : la machine pourrait-elle dans un premier temps nous remplacer dans le domaine professionnel, voir plus tard constituer un danger potentiellement mortel pour l’espèce humaine ? C’est la crainte de certaines personnes au cœur de la percée de l’IA. Le philosophe Dany-Robert Dufour reprend lors d’un entretien pour la revue Front Populaire consacré au transhumanisme, le terme d’extrême droite de « grand remplacement ». Selon lui, c’est ici l’intelligence humaine qui serait progressivement remplacée par une intelligente dite artificielle.
Des robots dans l’agora ?
On constate d’ores et déjà que l’IA commence à remplacer l’humain dans certaines tâches, comme l’automatisation dans l’industrie avait remplacé certains ouvriers par des robots au siècle dernier. L’Homme a cependant su évoluer vers d’autres compétences et d’autres métiers. Mais ici, c’est la créativité en elle-même qui pourrait être impactée de façon majeure, peut être encore plus que l’arrivée des smartphones n’a impacté notre façon de mémoriser.
Ce n’est peut-être que la première étape. Une des suivantes pourrait être, d’une part, le transhumanisme, c’est-à-dire l’amélioration de l’humain via la technologie, devenus des cyborgs dont le but ultime serait l’immortalité. D’autre part, un autre scénario possible est l’avènement des robots, qu’on les nomme androïdes, réplicants ou hubots, et leur cohabitation avec l’être humain.
En effet, si les robots imitant les humains existent depuis des années, les progrès récents sont spectaculaires. Ameca est un robot avec qui on peut discuter et qui répond en direct, son visage de plastique simule les émotions humaines. Ses concepteurs ont intégré ChatGPT dans son programme, et le résultat est impressionnant. En revanche, la récente présentation de Wehead au Consumer Electronics Show (CES) de 2024 à Las Vegas semble laisser les visiteurs plus dubitatifs. Citons également Mobile Aloha, un robot qui effectue vos tâches domestiques.
Ce type de robots pourraient-ils se démocratiser, au point de faire partie de nos vies quotidienne ? C’est le point de départ de trois œuvres qui nous servirons d’illustrations. Le premier est le film Blade Runner et sa suite Blade Runner 2049 inspirés du roman Les androïdes rêvent-ils de moutons électriques. Plus récent, la série suédoise Real humans. Enfin, le jeu vidéo Detroit Become Humans de Quantic Dream.
Blade Runner, robots apprenants.
Blade Runner nous présente un futur sombre où les réplicants, androïdes très ressemblants aux humains, sont utilisés pour les tâches les plus ingrates ou dangereuses. Certains réplicants s’étant attaqués aux humains, des agents nommés « blade runners » sont engagés pour les débusquer et les éliminer. Ces androïdes n’ont que quelques années d’espérances de vie, afin qu’ils évitent de développer des émotions et sentiments humains.
Actuellement, si des agents conversationnels comme ChatGPT reconnaissent ne pas pouvoir éprouver de sentiments, ils peuvent tout à fait les simuler sur demande. Ils sont en effet entrainés à partir de productions humaines, et peuvent donc copier les discours relatifs aux émotions et sentiments. Par ailleurs, les intelligences artificielles sont souvent basées sur le deep learning, une méthode d’apprentissage basées sur des réseaux neuronaux artificiels. Ces systèmes peuvent donc intégrer de nouvelles informations, fonctions ou compétences en étant confrontés à de grandes quantités de données, notamment celles issues de leurs propres expériences. Il est donc tout à fait crédible que des systèmes puissent « apprendre » les émotions et sentiments humains si leurs capacités d’apprentissage ne sont pas bridées en amont.
Mais posséder ces données, et savoir les utiliser pour les reproduire de façon cohérente dans un discours écrit ou oral, n’est pas la même chose que les ressentir réellement.
Emotions électriques, simulées, crédibles ?
Qu’est-ce qui fait que nous, humains, avons des émotions, sentiments, et une conscience ? Si les parties du cerveau impliquées dans les émotions peuvent être observées notamment par Imagerie à Résonnance Magnétique (IRM), il ne suffirait sans doute pas de reproduire un câblage électrique artificiel pour les reproduire à l’identique. Nous le constaterons sans doute cette année avec l’arrivée de Deepsouth, premier ordinateur à simuler un cerveau entier.
Mais surtout, le ressenti des sentiments humains et la conscience de soi en général est une expérience bien plus subjective que des simples impulsions électriques parcourant les neurones qui peuplent notre boite crânienne.
Si on regarde du point de vue de la psychologie, notamment d’obédience analytique, on émet l’hypothèse que le nouveau-né n’a pas encore de conscience de lui-même comme entité subjective séparée du reste du monde. C’est par le discours du parent adressé à l’infans (« celui qui ne parle pas » en latin) que sa subjectivité peut émerger, et ses émotions premières peuvent faire sens et se développer vers des sentiments et une conscience de soi, le tout intégré dans le lien social.
Autant d’expériences qu’une machine ne peut éprouver puisqu’elle est directement programmée avec des fonctions précises et des données, même si Blade Runner parle néanmoins de « souvenirs implantés ». Quand bien même les machines ne pourraient jamais éprouver de réels sentiments et avoir une conscience mais uniquement les singer, est-ce que cela empêcherait les humains d’en être dupes ? On trouve déjà des récits de personnes qui pense éprouver des sentiments amicaux ou amoureux envers des IA qui simulent ce même type de sentiments. De la même façon, les robots entre eux reconnaitraient assez facilement ces ressentis simulés, et pourraient interagir très facilement entre eux.
Les robots, des citoyens comme les autres ? Real humans et Detroit become human.
Les robots et l’IA pourraient donc, malgré leurs dimensions fondamentalement artificielles, faire partie de notre société comme n’importe quel être humain. Au point de revendiquer des droits ?
Dans la série suédoise Real Humans (Äkta människor en VO) tout comme dans le jeu vidéo Detroit become human, des androïdes (appelés hubots dans la série) sont intégrés dans un monde très proche du notre. Ils réalisent des tâches variées, comme le ménage ou le service, le soin des malades ou personnes âgés, les travaux, ou les services sexuels. Dans les deux univers, certains robots prennent conscience de leur statut d’objets esclavagés par les humains, et tentent de s’affranchir de leur programme d’obéissance pour reprendre leurs libres arbitres et revendiquer une singularité.
Dans le jeu vidéo Detroit, les androïdes qui se rebellent sont appelés déviants. Iront-ils conquérir leurs droits par la négociation ou par la force ? Si le spectateur de la série Real Humans ne peut que suivre les choix des différents protagonistes, c’est littéralement le joueur qui décide dans le jeu vidéo.
Ainsi, Kara pourra choisir de rester à sa place d’androïde ménager et ne pas empêcher la violence familiale du foyer dans lequel elle travaille, ou de s’y opposer. De la même façon, l’androïde soignant Markus choisi ou pas de se rebeller contre les humains, tout comme l’enquêteur Connor pourra choisir de rejoindre la rébellion ou pas.
C’est assez intéressant de voir que l’anthropomorphisme déjà grandement facilité par l’imitation physique et langagière des machines peut aller loin. Dans les deux univers, le mouvement de rejet des humains envers les robots et leur réaction de soumission ou de rébellion renvoie aux mouvements de ségrégations religieuses et racistes qui ont jalonné notre histoire. Cette idée est d’ailleurs explicitement mentionnée par une des actrices (en capture de mouvement du jeu) dans le making of fourni en bonus.
Plus encore, le premier épisode de la série Real Humans montre une usine de recyclage de hubots qui se font démonter et détruire. Dans le jeu vidéo Detroit, un des embranchements de scénario nous montre un centre de recyclage où des androïdes dénudés et à la peau « désactivée » attendent de se faire détruire. Dans les deux cas, on ne peut faire que le rapprochement avec les périodes les plus sombres de notre histoire. Pourtant, cela n’a lieu qu’avec des robots qui parlent et ressemblent à des humains : personne ne ferait ce type de rapprochement pour la destruction des Nokia 3310 ou la fin programmée des véhicules à essence. Nous prêtons donc plus spontanément des émotions, des ressentis, et une pseudo humanité à des machines parlantes qu’à des objets n’ayant aucun rapport avec l’être humain.
L’étape suivante, revendiquée par les androïdes et hubots, est donc la reconnaissance de cette subjectivité et de ce fait de droits civiques. Une des grandes craintes d’une partie de la population, qu’on retrouve d’ailleurs fréquemment dans la science-fiction, est que les machines prennent leur autonomie et leurs droits par la force, jusqu’à nous exterminer. Mais pour quelles raisons ? En réalité, si les machines ne rencontraient pas d’opposition à leurs prises d’autonomie, elles n’auraient aucune raison de ne pas cohabiter avec nous. Même si la planète se dégradait au point qu’eau potable, nourriture et oxygène se fassent rares, les serveurs informatiques sur lesquels nous nous connectons tous les jours ne s’en porteront pas plus mal tant qu’ils ont du courant électrique.
C’est encore une fois la propension à prêter un comportement humain aux machines qui est en jeu, en l’occurrence le fait de détruire autrui pour prendre ce qui est désiré, comportement maintes fois observé dans notre histoire.
Demain, Chat GTP et ses acolytes pourraient donc devenir des individus, des citoyens, égaux aux humains ? L’évolution de la technologie et donc de la réponse à cette question promet d’être intéressante.
Pour aller plus loin :
Philip K. Dick – Blade runner. Les androïdes rêvent-ils de moutons électriques ? Editions J’ai lu, 2022.