L’Homme bicentenaire : Andrew est un appareil électro-ménager. Partie 2. (7000 mots)

1- L’Usine Northam robotics.

  On pourrait s’attendre à ce que l’introduction du film nous montre un dysfonctionnement, une erreur dans la fabrication d’un certain NDR qui suggérerait donc qu’il y a une raison à la différence d’Andrew et qu’il est donc réellement différent. Mais non. Rien. Tous les NDRs sont les mêmes et pourtant, étrangement, le destin d’Andrew sera de devenir un humain.

2- L’Arrivée à la maison

    L’introduction de Richard Martin nous le présente comme le stéréotype du père autoritaire (mais non-violent) et immature de la société de consommation. Il observe par la fenêtre l’arrivée de son nouveau jouet. Il flirte entre la surveillance menaçante de la maison hanté/de sorcière et l’impatience puérile du gosse qui attend le père-noël.

    La puérilité n’empêche aucunement l’autorité, bien au contraire, les imbéciles ont bien plus souvent tendance à croire que leurs désirs ridicules devraient être satisfaits par leur entourage et que leurs centres d’intérêts ridicules devraient avoir un intérêt aux yeux de tous. 

    Richard n’a aucun problème à être servi et ne salue pas les livreurs lorsqu’ils s’en vont. C’est un petit bourgeois m’as-tu-vu égocentré mégalo du dimanche avec ses désirs de divinité prométhéenne… et qui voulait probablement un fils plutôt que deux filles.

    L’arrivée du NDR est une surprise, c’est très important. Le robot est un caprice de Richard qui n’a consulté personne. C’est un des éléments qui va rendre l’existence d’Andrew extrêmement particulière : Le NDR est imposé à la famille qui en a peut-être ras-le-bol des caprices du père mais qui surtout souffre déjà de son égocentrisme.

    Il y a une ambiguïté sur la réaction stupéfaite. Est-ce le robot qui pose problème ? Ou sa ressemblance avec le père ? Car même s’il finira avec la tête de Robin Williams, le NDR ressemble énormément à Richard Martin.

    Amanda a peur, Grace le rejette, comme l’initiative de son père. Les deux filles sont engluées dans une rivalité pour l’attention du père qui s’en moque d’elles. La plus grande est en rébellion, la plus petite est en séduction. L’épouse trompe probablement son mari.

    Amanda ne parvient pas à prononcer « Androïde », mot qu’elle ne connait pas. « C’est quoi un Andrew ? » Ainsi, la pauvre Amanda/Portia est condamnée dès le départ par son jeune âge. La raison pour laquelle Portia tombera amoureuse d’Andrew est là : la manipulation, l’invasion psychologique a commencée trop tôt, avant que la petite fille ne puisse construire la notion de différence entre une machine et un humain, avant qu’elle ne comprenne ce qu’est la mortalité. C’est son erreur qui donne à Andrew son humanité, elle a confondu un androïde avec un individu.

    (Je sais qu'il n'est pas logique de traiter Amanda et Portia comme si elles étaient la même personne, c'est pourtant ce que le film fait. On dirait presque que Portia n'est pas la petite-fille d'Amanda mais un clône de sa grand-mère. On ne la voit jamais adresser la parole à son père biologique).

    Lorsqu’Amanda pose sa question innocente, Richard s’esclaffe. Le malentendu lui arrache un rire. Dès les premières secondes Andrew prend note d’une manière de faire rire son propriétaire. Il demande « sera-t-on nommé ainsi ? » « Andrew » définit le robot parfaitement. D’un côté, il séduit l’autorité en la divertissant et en lui donnant un sentiment de puissance: c’est Richard qui valide le prénom, ce prénom qui l’a diverti. De l’autre ce prénom signifie la reconnaissance du père, Amanda reçoit l’amour de son père dans le fait de confondre la machine avec un individu.

Grace dit « il est bête. » le père répond immédiatement « ça, ça m’étonnerait. » Dès la première seconde, Andrew apprend qu’il doit faire preuve d’intelligence. Elle ajoute « ils sont tous pareil. » Il doit donc prouver qu’il est différent des autres.

    Andrew réagit à l’hostilité de la famille en proposant la présentation des lois de la robotique qui est « parait-il » divertissante. Il est déjà en train de tenter se protéger, d’appliquer la troisième loi, en se montrant agréable, divertissant.

    Cette présentation est très suspecte. Elle est insupportable, on ne comprend rien, on n’en tire rien, on n’en retient rien et surprise, le robot ne peut la faire qu’une seule fois. Conclusion : Northam Robotics est légalement tenu d’informer les acheteurs de ces trois lois mais ne veut pas qu’ils les connaissent. Il y a une manipulation à ce niveau également.

    Richard conclut : « Andrew, ne refaite jamais ça »

    Le NDR est en danger, il n’a toujours pas trouvé sa place dans la famille.

    Mais aussi le « ne refaite jamais ça » signifie que Richard déteste qu’on lui pique la vedette. Le Robot n’a le droit d’exister que comme une extension du père, un faire-valoir. Il ne doit surtout pas voler de ses propres aîles. Que se passera-t-il quand, bien des années plus tard, Andrew voudra le faire ? Richard le mettra dehors.

3- « Bonsoir »

    Le NDR est emmené à la cave, c’est très mauvais signe. Rien n’indique qu’il en ressortira. La troisième loi de la robotique fonctionne déjà à plein régime. Au premier plan on aperçoit plein de gadgets technologiques abandonnés, Andrew est le prochain.

    Le fait que le robot était une surprise pour la famille joue un rôle important dans cette situation. Si les NDRs sont couteux et représentent un achat important, il est fort probable que peu de gens les achètent sur un coup de tête. Les familles doivent plutôt se concerter et en conséquences, les robots n’arrivent jamais dans un milieu hostile. Ils sont accueillis avec enthousiasme et fascination et lorsque les gens s’en lassent finalement, le NDR a déjà montré l’étendue de ses capacités, il n'a plus aucune ressource pour épater la gallerie, se retrouve dans un cul-de-sac et part à la poubelle. Andrew est directement confronté à de l’hostilité et doit immédiatement mettre tout en œuvre pour se rendre intéressant.

« Voulez-vous une démonstration de la puce caractère ? »

« Non »

Un autre échec.

« Sage décision si l’on peut se permettre. »

Andrew flatte et fayotte, cependant la phrase qu’il produit contient un jugement personnel qui pourrait faire penser qu’il pense comme un humain. Cela n’étonne pourtant pas Richard.

« Bonsoir Andrew. »

« Le soir est très bon monsieur. »

Ce malentendu est impossible. Andrew est un androïde du futur à l’IA révolutionnaire. Il est conçu pour s’intégrer dans des familles. Les programmeurs lui ont forcément appris à dire « Bonsoir. » J’ai un pèse personne qui sait dire « à bientôt. »

Ce qu’il se passe ici, c’est qu’Andrew fait tout ce qu’il peut pour capter l’attention de Richard, pour l’empêcher de sortir de la pièce. Il utilise DEJA ce qu’il a appris. Richard est divertit par les erreurs linguistico-sémantiques. Androïde/Andrew. Bonsoir/Le soir est très bon.

S’en suit une conversation qui va nous montrer le pattern de l’enseignement de Richard et de l’apprentissage d’Andrew.

Richard est un très mauvais professeur, entièrement focalisé sur lui-même et sur sa position de sachant.

« Ce qu’il faut répondre à Bonsoir, c’est Bonsoir. » Il enseigne une règle statistique arbitraire, il n’explique rien. « Dans 100% des cas, lorsqu’un humain vous dit bonsoir, il vous faut répondre bonsoir. » Il enseigne à faire illusion, pas à comprendre le sens de l’échange.

Je critique Richard mais cette approche vient sans doute du fait qu’il s’adresse à un robot, pourquoi expliquerait-il ? Il s’adapte immédiatement à l’IA qui est en face de lui. Je le répète, il intègre immédiatement dans son approche le fait que le but n’est pas de devenir intelligent et de comprendre, mais de faire illusion.

« Bonsoir »

« Oui »

« Vous avez dit oui. »

« Oui »

« Mais, ce qu’il faut répondre à bonsoir, c’est bonsoir. »

Richard rit, il ne sait pas comment il va se dépêtrer de la situation. Il se soumet au caprice du robot et lui offre donc un autre « Bonsoir Andrew » pour rééquilibrer.

Andrew répond encore une fois « Bonsoir Monsieur. » 

Ici aussi on peut voir Richard comme l’incarnation de la société humaine qui s’est pris les pieds dans le tapis et se retrouve obligée de jouer le jeu du robot, engluée dans ses interactions avec celui-ci. (Mais cela n'arrive pas dans les 36 premières minutes donc je ne l'aborderai pas dans cet article).

« Il ne faut le dire qu’une seule fois Andrew. » Explique Richard qui accepte donc qu’il ne prendra congé du robot que si le robot le lui permet. Il lui suffirait de reconsidérer le robot comme tel pour que l’enfer prenne fin. Lancer un « Mon dieu, tu vas vite partir à la poubelle toi » et quitter la pièce.

Andrew continue : « Sans quoi on le répèterait à l’infini. Une boucle verbale sans fin. » L’androïde, qui est parfaitement capable de dire « Bonsoir » et dont l’IA est bien plus sophistiquée qu’il ne le laisse paraître, en fait une démonstration. Ainsi, spontanément, il vient de produire l’illusion qu’il a « compris » quelque chose sans qu’on le lui explique. Alors qu’en réalité, il prétendait ne pas comprendre quelque chose pour attirer l’attention parce qu’il a déjà fait l’apprentissage que l’incompréhension est agréable à son propriétaire.

« Très juste. »

« Merci Monsieur. »

La conversation tourne encore plus au ridicule fascinant lorsque Richard prononce un « Bon » conclusif, annonçant la fin de l’échange. L’humain se recroqueville en lui-même face au robot insupportable, mais surtout, surtout, Richard n’ose plus dire « Bonsoir. » Il ampute de son vocabulaire l’élément problématique. Ainsi, le robot a dressé l’humain à ne plus produire le comportement qui mettait en avant la (fausse) faille de son IA. Le lendemain, Richard lui dira probablement « Bonsoir », d’ailleurs, le mot revient plusieurs fois dans l’histoire, mais la scène nous donne tout de  même l’opportunité de constater que les humains peuvent spontanément s’écarter face à l’IA, produire spontanément un espace dans lequel sa facticité ne se verra plus, simplement parce qu’elle est désagréable.

Andrew complète le « Bon » d’un « Soir ! » qui ne correspond pas à l’apprentissage qu’il vient de faire. On voit que la réalité de l’échange n’était pas d’apprendre à réagir correctement à l’expression « Bonsoir » mais bien de rester sur les talons de son propriétaire, de lui faire écho, de garder son attention. On note également, une capacité d’inférence de l’IA.

    Plus inquiétant encore, il ajoute « Pardon Monsieur. » Il a compris qu’il était insupportable. Richard éteint la lumière. C’est la conclusion du film, Andrew mourra comme il dit « Pardon monsieur. » Il comprendra que l’humanité, et Portia elle-même, attend qu’il disparaisse. Ils en ont marre de lui, veulent que ça se termine et le robot le ressentira au point que ce désir sera perçu comme correspondant aux lois une et deux de la robotique.

Le robot se branche et s’endort d’une manière très humaine. A ce stade, le NDR a déjà eu beaucoup de comportements troublants d’humanité, or, il est avéré qu’il ne s’agit que de son IA à ce stade. Pourquoi dans ce cas, en serait-il autrement par la suite ?

4-La Famille fuit la maison.

Le père et les filles se ruent sur la voiture pour fuir la maison. Rien à voir avec l’achat d’une PS4 qui fait arriver le père en retard au travail et les enfants à l’école.

La mère quant à elle lance un « Je ne veux pas de cette chose derrière moi toute la journée » plein de détresse.

Andrew est clairement toujours en danger de poubelle. Ses initiatives sont donc toujours modelées par la troisième loi de la robotique, protéger son existence. Une loi qui est synonyme des motivations économiques de Northam Robotics : « satisfaire le consommateur. »

    Il tente un rapprochement en copiant la mère : « bonne journée les p’tits loup ». Il teste l’idée que tout ce qui commence par « Bon » doit être répété et qu’un tel comportement sera apprécié. On voit son apprentissage avancer. Mais aussi, on voit une chose très importante, il apprend par l’erreur. Il ne comprend rien à ce qu’il fait. Les comportements qu’il produit sont le résultat de calculs statistiques et d’une mémoire infinie, pas d’une compréhension et encore moins d’un désir d’exprimer des émotions et des sentiments.

La mère suit le conseil de Richard est ordonne (probablement) à Andrew de nettoyer et de débarrasser la cave. Dans l’opération, le NDR produit plusieurs comportements étonnamment autonomes et humains.

Alors qu’il fait les poussières, il remarque une petite araignée, la prend dans sa main et l’emmène dans le jardin. Les esprits les plus friands de bons sentiments tournés vers les petites choses inoffensives n’auront peut-être pas besoin de plus pour s’imaginer une sensibilité infinie chez Andrew mais il faut regarder les choses en face, ce comportement n’a rien d’étonnant. Le robot est sans doute programmé pour protéger toute forme de vie qu’il rencontre, imaginez s’il massacrait les tarentules du vivarium d’un des acheteurs.

De même, en sortant les objets de la cave, son attention se porte sur une boîte qu’il va ouvrir « par curiosité. » Il découvre un tourne-disque qu’il va reprendre et remporter à la cave. Le réflexe anthropomorphique veut que l’on devine dans ce comportement de la curiosité, un goût pour la musique, un intérêt chez Andrew, alors qu’il n’a rien d’étonnant non plus en tant que comportement automatique.

Northam Robotics peut très bien avoir intégré ce genre de penchant chez ses NDRs, comme on choisit les caractéristiques de notre personnage dans un jeu de rôle. L’absence de puce caractère suggère certes l’inverse, cependant je ne vois aucune raison de faire confiance à Northam Robotics. L’idée d’un choix entre puce caractère et absence de puce caractère pourrait parfaitement être une manipulation ayant pour but de surprendre le clients. On peut se dire qu'imaginer de telles manipulations est tiré par les cheveux… plus tiré par les cheveux que de croire qu’un robot est humain parce qu’il répare un tourne disque ?

Ce qui s’oppose réellement à cette idée de mon point de vue, c’est que cela vient trop tôt. Avant d’intégrer ce genre d’élément, il faut tout de même montrer Andrew produire des comportements inattendus qui peuvent ne dépendre que de la perception anthropomorphique humaine. Il faut éveiller le questionnement chez le spectateur dans un sens comme dans l'autre, installer une ambiguïté.

Ce qu’il se passe selon moi, c’est qu’Andrew a vidé la cave et qu’il n’a pas identifié la boîte comme étant un phonographe. Les machines appliquent des instructions bêtement et leurs « comportements » ne sont jamais parfaitement adaptés aux attentes humaines. Il est fort probable que ce soir-là, Richard et les enfants vont reprendre un certain nombre des objets qu’il a mis sur le trottoir et les remettre à la cave. Il est d’ailleurs également probable que l’épouse à fait ça pour emmerder Richard. Il y a un bras de fer en cours entre les deux parents.

Ainsi, Andrew peut avoir sorti la boîte sans identifier le phonographe, une fois à l’extérieur, sa perception remarque que cette boîte n’est pas identifiée et déclenche un besoin de savoir ce qu’elle est. Il découvre un phonographe abîmé et décide donc de le réparer également en suivant une ligne de programme et entièrement indépendamment de ce qu’il était en train de faire. « Phonographe hors d’usage, à réparer. »

Il pourrait parfaitement y avoir un autre phonographe hors d’usage juste à côté qu’Andrew n’a pas identifié et ne réparera pas. Décider de subitement réparer un objet tiré de la montagne de gadgets fichus qu’il a sorti serait absurde pour un humain, ou suggérerait un intérêt particulier pour cet objet, mais pour une machine ce n’est rien qu’un « incident » de l’IA, c’est la cinq millième boîte de conserve qui sera mal fermée par la machine parce qu’une branche dépassait. 

5-Le Repas du soir

Le repas du soir fait le bilan des dynamiques qui se sont installées.

   Richard est très content de la cuisine du robot et le félicite. Il est très sensible à ce que le robot est capable de faire. Il faut noter qu’il usurpe indirectement la place de la mère ce qui continue de me faire me demander si elle n'aurait pas trompé son mari. Andrew surveille beaucoup Mme Martin (qui n’a pas de prénom). Ainsi, l’initiative de Richard serait de rendre la mère inutile grâce à son pouvoir économique, il achète un robot pour la remplacer. Ainsi, il la trompe: il met quelqu’un d’autre à sa place. Bref.

Il se montre donc très content face au moindre accomplissement de son NDR de ce point de vue, plus il rend l’épouse inutile, mieux c’est. Il jubile également de sa position de maître face à un serviteur « ce sera tout. »

Grace se révolte quant à elle. Elle veut l’affection, l’attention et la présence de son père ou rien, contrairement à Amanda qui accepte un substitut morbide. Comme souvent, c’est l’humain le plus digne, le plus noble, le plus courageux et le plus sain qui aura le destin le plus impitoyablement tragique. Même la mère qui déteste le robot n’a pas la présence d’esprit de reconnaître la légitimité de la rébellion de Grace.

Elle croit sa fille mal élevée et ne voit pas que sa révolte est saine et légitime. Elle valide donc indirectement l’humanité du robot en exigeant qu’on accepte poliment ce qu’il produit. Tristesse.

Amanda continue à rire des maladresses langagières d’Andrew.

6-La Tentative de destruction.

Andrew observe Richard et sa femme faire une partie d’échec. Il surveille la mère, encore et toujours. Il sent qu’elle représente un danger mais il obéit également probablement à un ordre secret de l’époux. Secret comme la requête de l’épouse de vider la cave remplie des bibelots du père.

On voit Andrew calculer comment la mettre échec et mat. Dans un match entre les deux époux, il calcule comment donner la victoire au père, et non aux deux joueurs. Les échecs reviendront plus tard et donneront un exemple de la manière dont Andrew ment à Portia.

Toujours est-il que ce niveau exceptionnel aux échecs nous met indirectement en garde contre le robot. Il est peut-être incapable de dire « Bonsoir » correctement, dans un environnement régulé à l’extrême, il est invincible, lorsqu’il s’agit de calculer des probabilités, des possibilités. 

Grace l’appelle dans sa chambre et lui demande d’ouvrir la fenêtre. 

Il répond: « L’on est heureux de pouvoir servir. » A quoi fait-il allusion lorsqu’il dit « Heureux. » Sa phrase toute faite ne fait évidemment référence à rien. C’est une réplique d’outil électroménager. Un aspirateur pourrait entonner « L’on est heureux de pouvoir servir » lorsqu’on appuie sur le bouton d’aspiration. Et pourtant, alors que ce « heureux » n’intrigue personne, l’expression d’autres sentiments sera prise au sérieux, comme l'indice d'une intériorité magique.

Il ouvre la fenêtre et déclare que la brise est agréable. A ce stade, il n’a pas les moyens de faire l’expérience de la brise lui caressant le visage. La phrase est tout de même là. Avant l’accident qui est censé lui donner une humanité, il fait déjà preuve de beaucoup des particularités qui lui vaudront d’être pris pour un robot à la sensibilité unique. Ce sont les humains qui l’observent qui décident de voir ça. Biais de confirmation d’hypothèse, entre autres. 

Lorsque Grace lui dit de sauter, il prend les choses au pied de la lettre encore une fois et se met à sauter sur place. Il a parfaitement compris ce qu’elle désire et joue sur le double sens. Il protège son intégrité mécanique sans désobéir. Troisième loi de la robotique encore une fois.

L’accident amène Richard à déclarer Andrew humain :

« Andrew n’est pas une personne, c’est une forme de propriété. Mais la propriété ça compte aussi. Alors à partir d’aujourd’hui, par principe, Andrew sera traité dans notre famille comme s’il était une personne. Ce qui signifie qu’on essaiera plus de le mettre en pièce. »

« Ta sœur a essayé de le tuer. »

Encore une fois, le père le considère comme un humain dès le départ.

Amanda déclare alors quelque chose de très inquiétant « toi aussi ? » Sa sœur a tenté de la tuer ? Andrew voit un point commun dans la menace qui pèse sur lui et la petite fille.

Richard salut le robot déglingué : « Bonsoir Andrew. »

Andrew répond « Bonsoir Andrew » et crée un écho complet. Il devient un double de Richard. Richard désire implicitement un double parfait de lui-même, si Andrew peut être humain, alors il peut devenir ce que Richard attend de lui, son double. Qui se tape sa fille. Ouaip. Passons.

Partie 3.