Les inconvénients de la Première Loi

samedi 16 mars 2019 par Constantin LOUVAIN

Cet article en PDF : Enregistrer au format PDF

5 votes

Un bruit quelconque m’avait probablement réveillé au milieu du sommeil paradoxal car je me souvenais de bribes d’un rêve. Elles se dissolvaient maintenant alors que les douleurs inhérentes à mon état reprenaient l’occupation de mon esprit, mais je gardais en mémoire le thème général. Mais était-ce un rêve ou un souvenir ? Je m‘étais probablement remémoré de manière distordue les premiers jours de l’introduction de robots domestiques dans ma maison, des années plus tôt. Je n’étais pas un des premiers, loin de là, à avoir accepté la présence de ces auxiliaires. Je suis assez conservateur, et la perspective de partager mon espace personnel avec des mécaniques ayant l’apparence de la vie m’avait longtemps rebuté. Mais, nécessité faisant loi, le temps et l’énergie me manquant pour assurer certaines tâches ménagères, j’avais finalement accepté ce que la grande majorité de mes concitoyens considérait comme un progrès important.
J’avais distraitement suivi sur divers écrans les débats législatifs qui avaient précédé l’introduction à grande échelle de robots domestiques. Leurs fabricants avaient mis en avant leur sécurité, exposant que leurs appareils répondaient de manière absolue aux trois Lois de la Robotique, telles que formulées un siècle plus tôt par ce génial précurseur, le Docteur Asimov.


Première Loi : Un robot ne peut blesser un être humain ni, par son inaction, permettre qu’un humain soit blessé (*).
Deuxième Loi : Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi.
Troisième Loi : Un robot doit protéger sa propre existence aussi longtemps qu’une telle protection n’est pas en contradiction avec la Première et/ou la Deuxième Loi.


Bien entendu, nous avait expliqué un concepteur de programmes lors d’une émission didactique, ces lois n’étaient pas gravées telles qu’elles dans les cerveaux artificiels de ces machines. Mais elles y étaient présentes sous la forme d’algorithmes sophistiqués qui en reprenaient l’essence. À ce stade, j’avais zappé. Mais peut-être aurais-je dû prêter alors une attention plus grande à ce que disaient ces experts.
Je suivis sans plus d’attention le débat politique qui précéda l’introduction des micro-robots. Je me souviens vaguement qu’un député s’était opposé avec véhémence au principe même des trois lois, ou plus exactement à la prééminence de la première loi sur toutes les autres.
— Imaginez, s’écria-t-il de son banc, un couteau de cuisine obéissant à la première loi. Supposez maintenant que vous ne disposiez que de ce couteau comme outil tranchant et que vous deviez vous en servir pour réaliser une opération urgente, comme une trachéotomie. Eh bien, le couteau obéissant à la première loi ne vous laisserait pas réaliser cette opération ! Et une personne mourrait ! L’humain, dit-il en conclusion, doit demeurer à tout moment seul juge de ce qui est licite ou illicite, faute de quoi il perdra le contrôle de son existence. Il abandonnera son bien le plus précieux, sa liberté ! 
Mais je digresse. Mes pensées tournent dans mon crâne comme des frelons enragés dans un bocal transparent. Il me revient ce souvenir de mes vacances lorsque j’étais enfant. Je passais quelques semaines chez mon grand-père qui avait été bouilleur de cru. Ou était-ce son père ? Il y avait au fond du jardin, à moitié dissimulées sous les feuilles d’une vigne sauvage, abandonnées contre un mur lézardé, des jarres de verre qui renvoyaient de temps à autre la lumière solaire en un bref éclair. Des frelons y étaient entrés, attirés par un fond de mélasse diluée, et y tournaient furieusement.
Je digresse encore. Mais il est difficile de construire une pensée rationnelle dans ma situation. Le soleil se lève ; j’aperçois les premières lueurs du jour à travers la fenêtre qui me fait face, et je distingue à présent mieux les mini robots qui s’affairent tout autour de moi avec diligence, dans un silence absolu.
Les premiers robots domestiques étaient légèrement bruyants. Ils émettaient une sorte de bourdonnement de basse fréquence, pas vraiment désagréable, mais qui me rappelait à tout instant leur présence. Il y avait les nettoyeurs qui passaient leur temps à zigzaguer sur les sols des différentes pièces de l’habitation, enlevant la poussière, se dissimulant sous les meubles dès que j’entrais dans une pièce, sans doute de peur que je les écrase par mégarde. D’autres engins passaient leur temps à escalader les fenêtres, briquant leur surface pour qu’elle soit aussi transparente que du cristal. D’autres encore nettoyaient les meubles et divers appareils comme la télévision ou l’ordinateur. Ceux que je nommais, faute de me souvenir de leur nom commercial, les robots peintres, escaladaient la nuit murs et plafonds pour y éliminer les toiles d’araignée et procéder à des retouches de peinture.
Une fois la maison confiée à leur service, il me fut facile d’accepter que leurs congénères s’occupent des espaces extérieurs. Ces machines entamèrent une lutte de tous les instants pour maintenir le jardin dans un état idéal. Il m’arrivait de les observer par la grande baie vitrée de mon salon. La tondeuse parcourait inlassablement les pelouses, des drones munis de pinces bourdonnaient autour des rosiers, coupant les fleurs fanées que ramassaient de petits composteurs sur roues, d’autres engins armés de cisailles grimpaient le long des topiaires et des haies pour maintenir leurs formes dans un gabarit idéal, et des planteurs ajoutaient de temps à autre de nouvelles pousses au début des beaux jours. Tout ce petit monde se planquait dès que je mettais le pied dehors, et regagnait l’abri de jardin pour se mettre en hibernation à la fin de l’automne.
Cette seconde vague d’automates fut suivie d’une troisième qui investit la cuisine. Pour des raisons d’efficacité, celle-ci fut réservée à leur seul usage. Mais cela ne me chagrina point, car je n’aimais pas cuisiner. Sa porte fit place à un dispositif d’échange de colis. J’introduisais dans une niche située dans sa partie inférieure les provisions et la partie supérieure s’ouvrait pour me livrer des plats préparés. J’utilisais ce même canal pour retourner dans la cuisine la vaisselle sale à nettoyer. Au bout d’un certain temps, je n’eus même plus à faire les courses en utilisant la liste qu’émettait l’imprimante encastrée dans la porte. Le chef robot avait intégré mes préférences alimentaires, passait lui-même commande des aliments nécessaires à la préparation de mes plats préférés, et un robot livreur amenait le colis. Je le réceptionnai les premiers mois, avant d’aménager une chatière sécurisée. Je me laissai tenter peu après par un robot majordome qui s’occupa de la gestion du linge de maison, lequel fut dès ce jour impeccablement lavé, séché et repassé. Il apprit également à me servir à table avec une certaine dignité et à débarrasser la vaisselle et les couverts une fois mon repas terminé. Je cessai ainsi toute relation avec la cuisine. Je découvris au fil du temps avec intérêt d’autres fonctions du majordome. Il était capable de jouer aux échecs en se mettant à un niveau qui me permettait de gagner deux fois sur trois, de se rappeler les programmes de télévision qui m’intéressaient, de me proposer des films ou des livres en fonction de mon humeur du moment, et il alla même jusqu’à rédiger et signer les cartes d’anniversaire que j’oubliais autrefois d’envoyer aux quelques rares connaissances avec lesquelles je n’avais pas coupé les ponts. C’était également un brillant causeur, capable de répondre de manière claire et concise aux questions qui me venaient à l’esprit.
Tous ces robots domestiques consommaient pas mal d’électricité. J’acquis donc quelques mois plus tard une mise à jour du majordome : un ordinateur sophistiqué connecté au réseau mondial d’information. Celui-ci géra dès lors les interactions et priorités de tout ce petit monde mécanique afin de réduire mes factures d’énergie. C’est d‘ailleurs ce majordome augmenté qui me conseilla, après qu’une coupure de courant m’eut laissé désemparé pendant toute une journée d’hiver, de m‘équiper pour acquérir mon autonomie énergétique. C’était assez cher, et je dus réaliser un emprunt pour couvrir les frais, mais cela en valait la peine. Des panneaux solaires furent installés sur le toit, et une pompe à chaleur trouva sa place dans le sous-sol. Pour parer à tout risque, un groupe électrogène et son réservoir de carburant furent installés dans le garage. Cela me força à me séparer de ma voiture, mais je sortais de toute façon de moins en moins, et les robots taxis étaient devenus très courants. Il me suffisait, si je désirais me déplacer, d’en faire la demande au majordome qui s’arrangeait pour qu’un de ces véhicules se gare une dizaine de minutes plus tard devant la porte de mon domicile, et m’emmène où je le désirais.
L’étape ultérieure concerna l’hygiène, et je fus un peu plus réticent. Mais un essai gratuit du robot masseur eut raison de mes doutes, et il me suffit dès lors de pénétrer dans ma salle de bains pour bénéficier instantanément des services d’un Spa de haut niveau : rasage, épilation, douche, bains relaxants avec vagues, massages de tous types… tout cela se mettait en route dès que j’entrais dans la pièce d’eau. Je finis même par accepter le dispositif qui me transportait d’un de ces services à l’autre.
Le temps passa. L’âge venant, j’eus quelques problèmes de santé, et la sécurité sociale m’invita à confier la surveillance de mes paramètres biologiques à des robots spécialisés. Une série de minuscules automates me fut livrée quelques jours plus tard, et le majordome s’occupa de leur installation et même, pour certains, de leur implantation. Je disposai ainsi d’une mesure permanente de la fréquence de mes battements cardiaques, de ma pression sanguine, du taux de diverses molécules circulant dans mon sang, incluant glucose, cholestérol, triglycérides, urée, créatinine et quelques autres. D’autres capteurs mesuraient dans mon fluide sanguin diverses activités enzymatiques, comme celles des transaminases, de la CPK des Gamma GT, de la LDH, ainsi que la valeur du pH ou le taux de plaquettes. Un bilan journalier reprenant toutes ces informations était à ma disposition. Je le lus par curiosité les premiers jours et discutai avec le majordome de l’interprétation de ces paramètres, puis je me lassai du sujet, et lui demandai de gérer par lui-même cette masse de données. Je remarquai au bout de quelques jours que la cuisine adaptait ses recettes à mes bilans sanguins, et qu’elle avait tendance à réduire un peu les portions. Mais le service demeurait irréprochable, la qualité était toujours là, et je ne m’inquiétai donc pas outre mesure. La sécurité sociale, au vu des analyses qui lui étaient transmises, me recommanda de voir un médecin, ce que je fis à bord d’un des nouveaux robots taxis. Après m’avoir examiné, il me concocta une prescription assez longue incluant des pilules blanches pour réduire ma tension, d’autres de couleur bleue pour combattre un diabète naissant, des comprimés rouges… à quoi servaient-ils encore ? Je crois que c’était pour les problèmes de mémoire. Bref, le robot taxi me conduisit ensuite à la pharmacie d’où je revins avec quatre boites différentes et un pilulier. Je n‘ai jamais été très organisé, je me lasse aisément de gérer des détails domestiques, et l’usage fréquent que je faisais à présent des robots avait renforcé ce trait de caractère. Je décidai donc dès mon retour de laisser le majordome régler la question du traitement. Je lui signai une procuration électronique lui permettant de s’approvisionner en médicaments, et il me présenta à partir de ce jour mes remèdes en temps et heure.
L’automed fut l’étape suivante. Le majordome eut un jour une démarche rare chez lui : il m’adressa la parole.
— Monsieur, je dois vous avertir que tout le personnel s’inquiète pour votre santé. Vous ne rajeunissez pas, et votre bilan médical indique un risque d’Accident Vasculaire Cérébral important. Nous avons eu voici trois semaines une grève des conducteurs humains de taxis qui ont bloqué la circulation pendant une journée entière. Si un AVC vous avait alors frappé, il est à craindre qu’aucun véhicule n’eût été à même de vous emmener en temps utile jusqu’à l’hôpital le plus proche. Vous auriez pu en garder des séquelles… ou même pire.
Sa voix dérailla sur ces derniers mots. Je me rappelai alors que la Première Loi avait été renforcée chez les robots vendus dans notre beau pays, apparemment au point de déclencher chez les automates l’équivalent mécanique d’une crise d’angoisse à l’idée que l’humain confié à leur charge pût être blessé ou même tué, un vocable que le majordome avait même du mal à prononcer.
— Que proposez-vous ? lui demandai-je alors.
— L’entreprise qui nous a construits a récemment mis au point un nouveau dispositif, dénommé AutoMed. Il s‘agit d’un appareil aux parois transparentes assez grand pour qu’un être humain puisse s’y allonger, équipé de dispositifs chirurgicaux d’urgence permettant de maintenir un patient en vie jusqu’à ce qu’une équipe médicale prenne le relais. Il dispose également d’une série de machines permettant de suppléer à nombre de fonctions vitales pendant un temps limité. Nous serions tous rassurés si vous acceptiez de faire l’achat de cet appareil. 
Je souriais intérieurement en écoutant son discours bien rodé, probablement composé par un rédacteur du marketing-communication d’Universal Robotics. Ma foi, ils disposaient d’un canal d’accès privilégié auprès de leurs clients existants. Je ne vois pas pourquoi ils se seraient privés de son usage. Mais je restais le seul décideur.
— Et combien coûte cette merveille ? demandai-je sur un ton légèrement ironique.
— Il est assez coûteux à acquérir, répondit honnêtement le majordome. De l’ordre du quart de million. Mais on peut également conclure un contrat de location à partir de trois mille Monars par mois, ce qui reste dans vos possibilités.
Je réfléchissais quand, pour la seconde fois, le majordome prit l’initiative, s’adressant à moi en ces termes :
— Que Monsieur me permette de lui rappeler un fait très simple. Un mort n’a que faire d’un compte en banque bien garni.
Pas faux ! En un instant, ma décision fut prise. Je réalise aujourd’hui que j’aurais dû réfléchir plus longtemps. Mais sur le moment, cela me parut la chose à faire. Un mois plus tard, un modèle de l’AutoMed LifeLine fut mis en place par un automate technicien d’Universal Robotics qui l’installa dans une chambre d’ami ne servant plus depuis des années.
La vie reprit son cours pendant des années, jusqu’à ce jour fatidique où je me sentis mal. Je me réveillai au milieu de la nuit, désorienté, avec une douleur subite dans le crâne, et je réalisai que le côté gauche de mon corps était comme engourdi. Averti par les capteurs que je portais en permanence, le majordome avait déjà déclenché une série d’actions préprogrammées. Aidé d’une multitude de robots domestiques, il me transporta dans l’AutoMed qui prit immédiatement la situation en main. Je sentis vaguement dans mon bras droit la piqûre correspondant à l’installation d’une perfusion intraveineuse, suivie par le passage de liquides dans mon système sanguin, puis la pose d’un masque à oxygène sur mon visage. J’entendis la voix du majordome qui me disait :
— Que monsieur ne s’inquiète pas. Nous avons la situation bien en main. Un cocktail d’enzymes vous a été injecté pour dissoudre le caillot qui s’était formé dans l’hémisphère droit de votre cerveau. Tout va bien se passer.
J’essayai de parler, mais le masque à oxygène me gênait et je ne pus émettre que quelques borborygmes incompréhensibles. En un instant, je sombrai dans le néant.
Je me réveillai, un peu nauséeux. Je tentai de parler, mais sans grand succès. Mon bras gauche réagissait plus ou moins bien aux ordres que je lui donnais, mais ma jambe gauche semblait n’être plus qu’un poids mort. Le majordome s’adressa à moi avec ce qui me sembla être une touche de compassion dans sa voix synthétique.
— Monsieur, je suis désolé de vous voir dans cet état. L’injection du cocktail d’enzymes s’est révélée insuffisante et nous avons dû procéder en urgence à l’utilisation d’un micro-chirurgien qui a finalement débouché le vaisseau sanguin colmaté. Mais votre situation demeure critique.
Mobilisant toute ma volonté, et luttant contre la nausée qui me submergeait, je parvins à énoncer
— Quand l’ambulance arrive-t-elle ? 
Le majordome ne répondit pas de suite, et lorsqu’il parla, je crus cette fois ressentir comme de l’embarras dans sa voix
— Nous n’avons pas appelé d’ambulance, monsieur. 
Je coassai d’une vois sèche :
— Pourquoi ?
— Que monsieur comprenne. Votre situation, malgré notre intervention rapide, s’est vite dégradée. L’intelligence artificielle nommée Esculape, avec laquelle je suis en contact, estime qu’un transport aurait 52% de chances de vous être fatal. C’est une décision que nous ne pouvons prendre. 
— Mais moi, je peux la prendre. Faites-moi transférer !
— Je regrette vraiment, monsieur, mais l’importance de la première loi est supérieure à celle de la seconde. Je ne peux donc en aucun cas obéir à un ordre de votre part qui risque de vous causer un dommage irréversible. C’est totalement impossible. Mais rassurez-vous ! Nous vous maintiendrons en vie coûte que coûte. »
C’était il y a bien longtemps, et pourtant, je m’en souviens comme si c’était hier. Toute la petite écologie robotique qui m’environne s’est vraiment donnée à fond pour me garder en vie et maintenir mes fonctions vitales dans les meilleures conditions. Le majordome, disposant de ma signature, a vidé mes comptes et hypothéqué ma maison pour générer les liquidités nécessaires à divers traitements. La cuisine a été transformée en une sorte d’officine pharmaceutique qui produit les solutés grâce auxquels je reste en vie. Je repose maintenant sur une sorte de coussin d’air qu’ils ont bricolé pour m’éviter des escarres, et des tuyaux rentrent et sortent de ma personne en divers points. Par le couvercle transparent de l’AutoMed, j’aperçois, à travers la fenêtre, les jardins et maisons de mes voisins, tous impeccablement maintenus par des robots domestiques. Le temps a passé. Au début, je comptais les jours, mais j’en ai perdu le compte après dix mille et des poussières. Cela doit bien faire plus de quarante ans que je suis dans cette situation, et je dois donc avoir plus de cent vingt ans. Je voudrais bien qu’on en finisse ! Mais pas question d’aborder le sujet avec ces foutues machines ! Pour elles, la Première Loi est l’alpha et l’oméga de leur éthique. À chaque fois que j’ai abordé le sujet, elles ont refusé avec ce que j’ai perçu comme un curieux mélange de gêne et d’indignation.
Quand je ne dors pas, je me pose des questions, et parfois je formule les réponses. Pourquoi personne n’est-il venu me voir ? Et pourquoi quelqu’un viendrait-il ? De l’extérieur, ma maison doit ressembler à toutes celles du lotissement : pimpante, avec un jardin bien entretenu. Les factures sont payées par les virements électroniques qu’effectue le majordome, le courrier est régulièrement récupéré dans la boite aux lettres par l’estafette achetée voilà des années pour ne plus avoir à sortir dans la rue le matin. D’autres questions tournent dans ma tête, et je ne leur trouve pas de réponse. Lorsque j’observe le lotissement, je ne vois jamais personne dans les rues, ni adultes, ni enfants. Combien d’humains se trouvent aujourd’hui dans ma situation ? Y en a-t-il même qui vivent différemment ? Y a –t-il encore des naissances ? Car, après tout, les trois lois ne disent rien des humains à venir. J’aimerais bien poser ces questions à mes robots, car je sais qu’ils trouveraient tout de suite un moyen de me répondre. La seconde loi les y obligerait. J’aimerais le leur demander … Si seulement je pouvais encore parler … mais avec ce tube dans ma gorge …

(*) Dans la nouvelle « Liar » (Menteur) d’Isaac Asimov, parue en mai 1941 dans Analog Science Fiction and Fact.

Documents joints


Notez cette nouvelle :
5 votes