Egalité et Réconciliation
https://www.egaliteetreconciliation.fr/
 

La science-fiction, cette machine à anticiper notre peur des robots

Le succès récent du prototype d’agent conversationnel ChatGPT nous montre que dialoguer avec un ordinateur devient envisageable, du moins en apparence car il reste de grands défis à relever avant d’arriver à de véritables échanges, dotés d’à-propos et de pertinence.

 

Comme pour d’autres domaines de l’intelligence artificielle (IA), des questions se posent : les machines vont-elles nous dépasser dans notre maîtrise des langues ? Peuvent-elles nous supplanter ?

 

Une science-fiction préventive

Comme souvent, la science-fiction a su anticiper nos craintes et nos fantasmes en matière de robots conversationnels. Elle nous a habitués aux robots et IA qui se rebellent contre les humains, et a ainsi nourri le courant des dystopies, ces futurs plus ou moins proches où une technologie écrase l’humanité, où une guerre rend la vie impossible aux rares survivants, où une pandémie fait des ravages.

 

 

On pense aux drones autonomes et aux robots-tueurs comme le fameux T-800 de Terminator (James Cameron, 1984), ou aux super-ordinateurs dotés de capacités effrayantes comme le mythique HAL de 2001, L’Odyssée de l’espace (Stanley Kubrick, 1968). En montrant le comportement extrême de telles machines, la science-fiction traite de questions philosophiques qui sont au cœur des débats d’aujourd’hui avec ChatGPT.

 

 

Nous citons deux films dont les machines inquiétantes ont marqué à jamais leurs spectateurs, mais le côté sombre des robots et logiciels ont été explorés aussi – et souvent en premier – par les littératures de l’imaginaire.

Prenons l’exemple d’une IA conversationnelle programmée pour gérer une pandémie, c’est-à-dire fouiller parmi des informations en très grand nombre pour faire des déductions et remonter au cas zéro, mais aussi pour proposer des mesures sanitaires (confinement, surveillance des entrées et sorties d’un quartier sensible) voire aider les scientifiques humains à la mise au point d’un vaccin puis planifier l’inoculation de ce vaccin. Ce scénario vous semble familier ? Il vient d’un roman intitulé SARRA : une intelligence artificielle.

L’auteur, David Grison, un habitué des milieux hospitaliers et politiques, n’y est pas allé de main morte, car l’IA en vient – attention, spoiler ! – à faire des choix meurtriers. Ah oui, petit détail : le roman est paru en 2018, alors même que le mot « Covid » n’existait pas. De fait, c’est une épidémie d’Ebola que SARRA doit gérer.

Comparé à SARRA, le Terminator du premier film paraît bien fruste : programmé pour tuer Sarah Connor, il ne perd pas de temps à discuter et traque sa proie sans relâche, quitte à attaquer le commissariat (!) où elle s’est réfugiée. Avec un tel comportement, on pourrait penser que les capacités linguistiques du robot T-800 sont réduites voire inexistantes : il fait preuve d’une bonne connaissance des fusils à pompe, pas du traitement automatique des langues ni de ChatGPT.

 

Un robot expert en conversation

Et pourtant, le T-800 parle et comprend l’anglais bien mieux que ChatGPT. Revenons sur une scène significative du film : blessé à l’œil, le robot se réfugie dans une chambre d’hôtel pour se réparer, maniant ainsi des morceaux de tissus organiques qui attirent les mouches. L’odeur se propage vraisemblablement dans le couloir, car un homme d’entretien frappe à la porte et demande si ça vient d’un chat crevé. Vient alors le moment intéressant : on voit la tête du T-800 se tourner vers la porte fermée puis on assiste, en vue subjective, au raisonnement qui le conduit à proférer une injure, « fuck you, asshole ».

Sur fond rouge apparaît « réponse possible » suivi d’une liste de six phrases, qui vont de la réponse la plus simple et directe (« oui » ou « non ») jusqu’à cette fameuse injure, en passant par une réponse polie : « please come back later », soit « merci de revenir plus tard ». L’injure choisie par l’IA se met à clignoter et, simultanément, le T-800 la prononce, ce qui provoque l’effet escompté, c’est-à-dire éloigner l’homme d’entretien. Presque 40 ans avant ChatGPT, nous voici dans la tête d’une IA au moment où elle génère une réponse à une question.

 

JPEG - 45.9 ko
Comment Terminator génère automatiquement une réponse lors d’un dialogue.

[...]

ChatGPT est conçu pour répéter, combiner et reformuler des réponses qu’il puise dans un corpus, pas pour préparer chacun de ses énoncés en fonction d’une tâche ou mission à remplir comme le fait le T-800. On trouve néanmoins dans celui-ci des prémices de ChatGPT : lors de la toute première scène du film, il a entendu mot pour mot la même injure, proférée par l’un des voyous à qui il a violemment pris des vêtements. Mieux : on voit dans la liste deux injures qui ne diffèrent que d’un mot : on peut imaginer que l’une des deux vient du corpus d’apprentissage, l’autre de l’interaction entre le T-800 et les voyous.

 

 

Le film Terminator 2 : le Jugement dernier (James Cameron, 1991) explicite les capacités d’apprentissage et de traitement automatique des langues (TAL) du T-800 : on le voit répéter « Hasta la vista, baby » et dialoguer sans difficulté avec les différents personnages.

[...]

Avec de tels questionnements, la science-fiction nous met face aux rapports que nous entretenons avec nos machines, et nous aide à mieux comprendre nos peurs. Pourquoi avions-nous peur d’être dépassés par des ordinateurs jouant aux échecs ou au go ? Pourquoi cette peur a-t-elle désormais disparu ? La peur des ordinateurs maîtrisant les langues l’a-t-elle remplacée ? Mais est-ce légitime d’avoir peur de répétitions et de reformulations ?

Enfin, n’oublions pas que les robots conversationnels interviennent surtout quand on se situe juste avant la dystopie, et quand la communication avec les humains est encore utile. Dans Matrix (les Wachowski, 1999), tout est perdu : l’humanité sert de source d’énergie et les machines ne discutent plus…

 

 

Lire l’article entier sur theconversation.com

Comme prévu, sur E&R :

 






Alerter

52 Commentaires

AVERTISSEMENT !

Eu égard au climat délétère actuel, nous ne validerons plus aucun commentaire ne respectant pas de manière stricte la charte E&R :

- Aucun message à caractère raciste ou contrevenant à la loi
- Aucun appel à la violence ou à la haine, ni d'insultes
- Commentaire rédigé en bon français et sans fautes d'orthographe

Quoi qu'il advienne, les modérateurs n'auront en aucune manière à justifier leurs décisions.

Tous les commentaires appartiennent à leurs auteurs respectifs et ne sauraient engager la responsabilité de l'association Egalité & Réconciliation ou ses représentants.

Suivre les commentaires sur cet article

Afficher les commentaires précédents
Afficher les commentaires précédents