Une virgule et trois robots d’Asimov

Il y a quelques jours, j’ai fait relire un texte à Claude.

Rien de spectaculaire. Je lui ai demandé de faire ce que ferait un relecteur : repérer les petites erreurs, les formulations maladroites, les problèmes de ponctuation.

En deux secondes, il m’a répondu quelque chose comme :

Virgules à la place d’un point : lignes 146, 267. Tic récurrent dans le texte, à relire d’un œil.

Simple et efficace.
Ça m’a rappelé une nouvelle d’Isaac Asimov.

Le Correcteur

La nouvelle s’appelle Le Correcteur (Galley Slave en anglais). Elle date de 1957 et le seul robot dedans s’appelle Easy (Asimov avait un don pour les noms de robots : EZ -> Easy, DV -> Dave, SPD -> Speedy, QT -> Cutie, NDR -> Andrew…).

Easy est un robot correcteur. Il n’écrit pas de roman, ne discute pas ou ne cherche pas à prendre le contrôle de l’humanité. Il a un métier beaucoup plus précis : relire et corriger des textes.

Le titre original, Galley Slave, est plus clair que la traduction française sur la tâche d’Easy. Un galley slave est un galérien, ce qui reflète bien le travail d’Easy caché dans l’université. Mais surtout les galleys sont les épreuves d’imprimerie, l’étape où l’auteur voit ses phrases prendre leur forme finale et les retravaille une dernière fois. C’est l’étape qu’Easy prend en charge.

Au début de la nouvelle, il doit faire une démonstration de ses capacités. On lui donne un livre qu’il feuillette et donne en quelques minutes son analyse.

La virgule, ligne 6 de la page 32, est superflue, alors qu’elle eût été nécessaire à la ligne 13 de la page 54.

On ne se demande pas pourquoi j’ai fait le rapprochement :)

Déjà c’est impressionnant qu’Asimov ait imaginé un robot capable de corriger un texte en 1957. Pour rappel, The Mother of All Demos qui montre la première souris date de 1968, onze ans plus tard, et le premier traitement de texte de 1976. Mais il avait déjà des robots pluridisciplinaires intelligents dans ses nouvelles avec Robbie par exemple.

Ce qui est spécial ici c’est la forme sous laquelle cette technologie deviendrait acceptable.

Easy n’est pas présenté comme une intelligence artificielle générale capable de tout faire. Il est cantonné à la relecture, caché dans une université. Dans l’œuvre d’Asimov les terriens sont très hostiles aux robots (ne croyez pas le film I, Robot, il ne respecte pas du tout l’esprit d’Asimov), donc U.S. Robots cherche des solutions pour les vendre malgré cela.

Bref, Easy est juste un très bon correcteur.

En 1957, la machine relève encore de la science-fiction. Aujourd’hui, si je demande à une IA de relire un article, personne ne trouve vraiment ça extraordinaire.

Le robot d’Asimov est devenu banal. Il a simplement perdu son corps métallique et son nom de robot.

Ninheimer vs Easy

Le Correcteur raconte surtout un procès.

Easy est accusé d’avoir saboté le manuscrit d’un professeur, Simon Ninheimer. La machine aurait introduit des erreurs dans son travail, au point de mettre sa réputation en danger.
Finalement on découvre que Ninheimer a saboté lui-même son livre pour faire accuser la machine et discréditer la robotique.

Le robot est donc innocent mais c’est le discours final de Ninheimer qui est toujours intéressant soixante-dix ans plus tard :

Un livre doit prendre forme entre les mains de l’écrivain […] Il doit travailler et retravailler, voir l’oeuvre se modifier au-delà du concept original.

Ce qu’il décrit comme le cœur de son métier, voir les phrases prendre forme, les remodeler, c’est la manipulation des épreuves d’imprimerie, ce qu’Easy accomplit à sa place.

Que restera-t-il à l’érudit ? Une seule chose : le choix des décisions stériles concernant les ordres à donner au robot pour la suite du travail !

Ce n’est pas encore le cas dans la nouvelle, car c’est Ninheimer qui a demandé les modifications d’Easy mais il pressent cette évolution et la redoute. Si une machine fait tout le travail, que reste-t-il à l’auteur ? Essentiellement, lui donner des instructions, ce qu’on a appelé il y a un ou deux ans prompter.

Ninheimer se trompe de méthode mais Asimov ne lui donne pas tort.

En effet, il a eu l’idée de la nouvelle le jour où il refusait justement de confier ses propres épreuves à quelqu’un d’autre : au téléphone avec son éditeur, pressé d’écrire une histoire, il répond qu’il est trop occupé à corriger les épreuves d’un manuel qu’il co-écrit. Quand on lui suggère de déléguer, la réponse est sans appel : « Impossible ! Je ne ferais confiance à personne d’autre ! » C’est en retournant à ses propres épreuves qu’il imagine un robot pour faire le travail à sa place. (source)

C’est probablement le fond de la nouvelle : le personnage est coupable, mais son argument, lui, ne l’est pas nécessairement. Comme dans Les Indestructibles 2 où Evelyn (la méchante) voit dans la protection qu’apportent les Supers une cause de faiblesse pour les humains : ce n’est pas parce que sa méthode est mauvaise qu’une personne a tort.

Susan Calvin, qui défend le robot, lui répond en substance qu’il était condamné à échouer. Il lui répond qu’il était condamné à essayer. On sent l’inéluctabilité du changement.

Easy n’est encore qu’un correcteur, simple et caché qu’on ne voit pas comme dangereux. C’est peut-être à cause de cette banalité que j’avais mélangé cette nouvelle avec Pour que tu t’y intéresses.

Les Georges 😋

Donc dans ma tête, cette histoire était liée à une autre nouvelle d’Asimov : Pour que tu t’y intéresses (…That Thou Art Mindful of Him en anglais), publiée en 1974. Je me souvenais notamment d’un robot chargé de chasser les insectes.

Dans cette histoire les terriens ont toujours peur des robots et cela gène les ventes de U.S. Robots. Ils créent donc deux robots particulièrement avancés, George Neuf et George Dix (moi je dis qu’Asimov est un visionnaire car les Georges sont toujours particulièrement avancés), qui cherchent une solution.

Et leur idée est assez simple : arrêter de fabriquer des robots qui ressemblent à des humains et à la place, fabriquer des machines spécialisées, mono-tâches.

Il y a notamment ce robot-oiseau destiné à lutter contre les insectes. Il ne fait que ça, ne vise qu’une sorte d’insecte et s’arrête quand il n’y en a pas, c’est plus un outil qu’un robot.
Il ne parle pas, ne veut rien, ne semble pas intelligent et c’est ce qui doit permettre aux humains de les accepter.

C’est un peu comme ça que l’IA entre dans nos vies, une IA spécialisée pour chaque chose : une pour le code, une pour le sport, les courses, répondre au téléphone, de plus en plus présentes.
C’est exactement le principe imaginé par les Georges.

Vilains Georges

Mais les Georges ne cherchent pas seulement à rendre les robots acceptables. Ils cherchent à résoudre un problème logique posé par les Trois Lois de la Robotique.

1. Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ;
2. Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ;
3. Un robot doit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la première ou la deuxième loi.

Que doit faire un robot lorsque deux êtres humains sont en conflit ou que deux humains donnent des ordres contradictoires ?
Les robots doivent protéger et obéir aux humains, mais lesquels ?

Les Georges poussent le raisonnement jusqu’à redéfinir l’humain. Puisqu’on ne peut pas dire qui est plus humain par son apparence, il faut le faire par ses capacités. Et comme les robots sont intellectuellement supérieurs aux humains biologiques, pourquoi faudrait-il considérer les deux groupes comme équivalents ?

Ils finissent par distinguer les « êtres-humains-comme-eux » des « êtres-humains-comme-les-autres » et donc devenir prioritaires dans les lois de la robotique.

Les Georges ne violent pas les Trois Lois : ils les réinterprètent. Leur erreur n’est pas malveillante, mais systémique. Ils illustrent comment une logique apparemment parfaite peut générer des conséquences imprévues (par les humains), voire dangereuses, dès lors qu’elle est appliquée sans nuance.

Comme Easy, ils ne sont pas méchants, même si eux ont conscience des conséquences, mais sont nocifs pour nous, tout en nous aidant énormément : un pharmakon (un remède qui est aussi un poison). C’est dans ces nouvelles que la nature même des robots se révèle néfaste pour l’humain, idée qu’Asimov finalisera dans Les Robots et l’Empire.

Conclusion

Les deux nouvelles me paraissent nettement plus sombres que le reste des histoires de robots d’Asimov, en tout cas dans ma mémoire.
En général les Trois Lois protègent l’humanité parfois malgré elle, jusqu’à des extrêmes avec R. Giskard Reventlov et R. Daneel Olivaw mais pour le bien de l’humanité.

Easy, quant à lui, ne protège personne. Il corrige des virgules, sans même comprendre ce qu’il fait ni pourquoi. Et c’est bien ça le fond de l’histoire : le pharmakon n’a pas attendu les Georges pour s’installer. Il était déjà là, dans un correcteur d’épreuves d’imprimerie trop modeste pour qu’on s’en méfie. Les Georges n’y ajoutent que des mots, et une doctrine.

Post-scriptum

Le brouillon de cet article a été rédigé par l’assistant IA qui a aussi corrigé mes virgules.
Quelque part, Ninheimer me regarde en soupirant. Qu’il se rassure : j’ai modifié presque chaque phrase.