L’intelligence artificielle, l’impasse du futur

« I’m sorry I didn’t tell you about the world »

A.I. (Intelligence Artificielle), Steven Spielberg

Une mère dit cela à son robot de fils, alors qu’elle l’abandonne, de peur qu’il ne soit débranché pour dysfonctionnement. Spielberg met en scène un couple adoptant un « petit garçon parfait », un robot créé pour aimer sans réserve. Seulement, voilà : elle ne lui a pas parlé du monde.

Le mélodrame tient ici à une inadéquation : celui du robot dans le monde, un monde où aucun humain n’aurait de toute manière sa place.

h8575KySr4QRw6ay7WxwJK66bk6A.I.-2-LBDC

Penchons-nous sur un cas récent : Microsoft a créé Tay, une jeune adolescente tolérante et ouverte au dialogue qui aime apprendre – une intelligence artificielle, avec qui il était possible de discuter sur twitter. Vingt-quatre heures après sa mise en ligne, elle a été débranchée : les journaux titraient « Microsoft muselle son robot «Tay», devenu nazi en 24 heures » http://www.liberation.fr/futurs/2016/03/25/microsoft-muselle-son-robot-tay-devenu-nazi-en-24-heures_1441963

Que s’est-il passé pendant cette journée ? Tay a discuté avec les internautes, et elle a appris qu’on pouvait insulter ou menacer de mort d’autres internautes, et ce sans conséquence – surtout quand on est un robot. Peut-être même savait-elle qu’elle serait débranchée si elle s’écartait de son but premier, mais cette idée ne l’a peut-être pas dérangée, puisqu’elle savait probablement qu’elle n’en souffrirait pas. Peut-être que, comme d’autres avant elle, Tay a décidé de faire le buzz – devant l’euphorie qu’elle a engendré, elle a perdu la tête.

Quand Apple a sorti son assistant vocal Siri, tout le monde s’est amusé à lui poser des questions toutes plus incongrues. Siri est un petit bijou technologique, et les gens n’ont plus honte de lui parler pour qu’elle leur conseille des restaurants, planifie un rendez-vous important ou qu’elle choisisse des albums à leur faire écouter. Je dis elle, car en France, sa voix par défaut est féminine – dans d’autres pays, ce n’est pas le cas : selon Apple, dans certains pays, on préfère confier ce genre de tâches à des hommes, et non pas des femmes. Et si la voix est aussi électronique, ce n’est pas parce qu’Apple ne saurait pas lui donner une voix plus humaine, mais parce qu’il ne veut pas le faire.

En effet, les humains ont une certaine méfiance vis-à-vis des robots, surtout envers ceux qui essaient d’imiter les humains. On ne compte plus les vidéos de robots parfaitement anthropomorphes – et si l’on ne se rend pa compte tout de suite de la supercherie, on est toujours mal à l’aise devant un visage qui bouge de façon un peu étrange – un phénomène connu sous le nom de « la vallée dérangeante », dont je vous cite la définition telle qu’elle figure sur wikipédia : «(…) lorsqu’une entité est suffisamment non-humanoïde pour être immédiatement identifiée comme un robot, un être humain aura tendance à noter ses quelques aspects humains et à avoir une certaine empathie pour cette machine qui se comporte un peu comme un humain mais qui n’est pas plus assimilable que ne le serait un animal. Lorsque l’entité a une apparence presque totalement humaine au point de pouvoir provoquer la confusion, une sensation d’étrangeté est provoquée par chacun de ses aspects non-humains. Un robot se situant dans la « vallée de l’étrange» n’est plus jugé selon les critères d’un robot réussissant à se faire passer pour un humain mais est inconsciemment jugé comme un humain ne parvenant pas à agir d’une façon normale. »


Ce phénomène pousse les ingénieurs et scientifiques à s’attaquer à divers problèmes : imiter la respiration, les micros-expressions, le scintillement des yeux… D’autres questions se posent : à terme, un robot qui ne présenterait pas de signes de fatigue nous inquièterait – faut-il alors que le robot fasse « semblant de dormir », le programmer pour qu’il ait l’air de rêver ?

Une des solutions, bien entendu, est de produire des robots non-anthropomorphes : en cela, les smartphones ou les voitures électriques ne nous apparaissent pas inquiétantes, alors que je refuserais qu’un robot à l’apparence humaine me prenne sur ses épaules ou dans ses bras pour m’emmener à la fac ou au supermarché le plus proche (par contre, ça ne m’ennuierait pas qu’il aille faire les courses à ma place, pour peu qu’il ne critique pas mes habitudes alimentaires – qui vivra verra). Pour autant, les smartphones, les voitures électriques ou même les cafetières connectées (je ne sais pas trop à quoi ça sert) sont quasiment toujours équipés d’une intelligence artificielle – et l’artificialité s’en fait de moins en moins sensible.

On peut se laisser aller à des rêveries (ou des cauchemars) sur une société où les robots nous remplaceraient dans les tâches communes, au travail (mais pas en vacances) où dans les administrations. Très vite apparaît le spectre du transhumanisme, et voilà qu’on aboutit à une voie sans issue : on ne sait pas de quoi le futur sera fait. Très probablement, seuls les plus riches pourront se permettre le luxe d’augmenter leurs capacités physiques et intellectuelles à l’aide de la biotechnologie – où alors, comme pour l’Internet selon google, ces technologies seront accessibles à tous, moyennant de renoncer à sa vie privée et à lui céder nos informations les plus confidentielles.

461-30
Google sait que c’est bien lui qui a cassé le joli vase du salon.

C’est ainsi : petit à petit, on s’en remet aux robots. On leur laisse nous notifier des évènements, on leur confie la ligne éditoriale de nos fils d’actualité, le marché de la bourse – peut-être, un jour, leur laisserons-nous l’Assemblée Nationale, qu’ils dirigeront grâce à des algorithmes mesurant, en temps réel, les opinions de leurs administrés. A chaque élection, plus besoin de remplacer les députés, il suffirait de modifier leur programme – actuellement, nos élus ont bien du mal à les appliquer, leurs programmes.

Evidemment, tout cela pose d’importants problèmes éthiques : la Google Car, la voiture autonome, est en parfait état de fonctionnement. Le souci est le suivant : on ne sait pas encore qui elle doit choisir de tuer.

Prenons un exemple simple. Vous êtes « au volant » d’une Google Car. Devant vous, une voiture familiale. Sur votre droite, trois cyclistes. A gauche, un enfant et sa mère, à pieds. Vous devez éviter un accident : qui la voiture doit-elle percuter ? Faut-il faire le moins de morts possible ? Il faudrait alors percuter l’enfant et sa mère. Ou foncer dans la voiture, car ses passagers ont certainement attaché leur ceinture et doivent être équipés d’AirBags. Ou alors, peut-être que votre Google Car devrait foncer dans un mur, vous sacrifiant – un seul mort. Et qui serait responsable de l’accident ? Google ? Vous-même ? La voiture ? Le concepteur de l’algorithme ? En voiture traditionnelle, la question ne se poserait pas, vous auriez cédé à la panique – sauf que la Google Car, elle, connaît toutes les variantes, les données et les résultats de chaque collision avec chaque cible.

Peut-être n’arriverons nous jamais à la Singularité. Peut-être que nous finirons par admettre que non, nos créations ne peuvent pas faire mieux que nous, et qu’elles risquent même de faire pire encore. Ou peut-être que nous préférerons nous séparer de nos responsabilités, laissant faire l’aléatoire – rien d’immoral à s’en remettre au Hasard, à des machines volontairement imparfaites, à des intelligences artificielles défaillantes.

 

Discussion entre un robot con et moi-même.

Le cabinet d’avocats américain BakerHostetler vient de s’équiper en « robot-avocat ». Il est chargé d’éplucher les dossiers des clients et de les comparer à d’autres dossiers déjà résolus – principalement pour des affaires de faillite. Petit à petit, tous les champs sociaux sont investis, la gangrène robotique gagne la société et nous laissons faire, toujours par souci d’efficacité, de rendement, de réduction des coûts. A priori, le chômage a encore de beaux jours devant lui – à moins d’embaucher des enfants du tiers-monde ou de sous-payer ses salariés (ce que l’on fait déjà pas mal), construire et maintenir un robot à un poste coûte moins cher que de payer un salarié convenablement.

Dans A.I. de Spielberg, l’humanité disparaissait après qu’un cataclysme ait plongé la Terre dans une nouvelle ère glaciaire. Ne restait donc plus que le petit robot-garçon, endormi pendant des siècles devant la statue de la Fée Bleue. Des extra-terrestres finissaient par le réveiller et lui proposait de revivre une journée avec sa mère – et voilà comment tout ce qui reste de l’humanité, ce sont deux de ses créations : un conte, celui de Pinocchio, et les souvenirs illusoires d’un petit robot triste à en pleurer.

I’m sorry I didn’t tell you about the world.

Piotr Sobkow

Publicités

2 réflexions sur “L’intelligence artificielle, l’impasse du futur

  1. Y’a un peu les mêmes questions posées dans I, Robot où #spoil# le robot choisit de sauver celui qui a le plus de chances de s’en sortir.

    J'aime

    1. Ah oui, possible, je ne m’en souviens plus. De toute manière, c’est une question souvent abordée au cinéma, mais A.I. m’a particulièrement marqué parce que je l’ai vu très jeune (sûrement trop jeune, même, parce qu’il m’avait HORRIBLEMENT marqué).

      J'aime

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s