L’intelligence artificielle

L’intelligence artificielle n’existe pas

Luc JULIA

L’auteur, co-créateur de SIRI (l’assistant vocal d’Apple), à l’origine des imprimantes connectées d’HP et pionnier de la réalité augmentée, est un scientifique toulousain devenu l’un des gourous mondiaux de l’«intelligence artificielle». Vice-président Innovation de SAMSUNG Monde, il dirige son propre laboratoire d’IA à Paris.

Dans ce livre de 2019, il «déconstruit le mythe de l’IA».

Il décrit d’abord son parcours de bricoleur de génie dès l’enfance, «comment ces nouvelles technologies sont liées et fonctionnent» ainsi que «certains aspects historiques qui fondent les croyances actuelles sur l’IA».

Après un passage au CNRS, il passe au MIT à Boston dès avant son doctorat achevé, puis au SRI International de la Silicon Valley, où il fait six ans d’apprentissage et de rencontres décisives. Il en décrit l’ambiance stimulante. Il y poursuit ses recherches et achève sa thèse en 1995, puis il y crée en 1997 son propre laboratoire CHIC (Computer Human Interaction Center) et construit le premier frigo intelligent (CheF). Des neuf projets dévoilés en 1999 par son laboratoire, le plus connu est SIRI.

Après dix ans de recherche et d’inventions, il quitte le SRI fin 1999 pour créer des start-up et se lancer dans d’autres aventures créatives, des défis technologiques dont il décrit les objets et les fonctions.

Après avoir collaboré avec le gratin international de l’informatique, il rentre à Paris en 2018 pour diriger un laboratoire.

Cette présentation montre un auteur qui connaît bien son sujet: l’IA.

«Tout est parti d’un immense malentendu. En 1956, à la conférence de Dartmouth, J. MacCarthy a convaincu ses collègues d’employer l’expression Intelligence Artificielle pour décrire une discipline qui n’a rien à voir avec l’intelligence.»

«L’emploi du terme intelligence est de fait une vaste fumisterie, car il est basé sur des vœux pieux qui sont bien loin de la réalité.»

Capacité de calcul et base de données par l’internet ne permettent pas, par exemple, qu’une machine reconnaisse à 100% un chat ; pour obtenir l’optimum de 95%, il faut lui fournir 100 000 images de chat, ce dont l’humain n’a pas besoin. D’après des psychologues, un enfant «n’a besoin que de deux instances d’images de chat pour les reconnaître à vie… de manière quasi infaillible.» «Les machines… sont incapables de contextualiser. Si… on n’a pas fourni d’images de chat prises de nuit» à la machine, «il y a peu de chances que le système reconnaisse un chat dans la nuit.»

«On peut bien sûr multiplier les paramètres et augmenter les jeux de données mais, outre le fait qu’il sera difficile de modéliser tous les états et toutes les circonstances (peut-on représenter le feeling?), des problèmes de capacité de mémoire et de puissance de calcul se poseront.»

Depuis 2007, les capacités et méthodes de calcul ayant considérablement augmenté, l’IA revient en force et avec elle son lot de promesses malheureusement irréalistes. «Les oiseaux de mauvais augure qui nous prédisent un monde délirant où les robots… nous domineraient, ou ceux qui nous font miroiter un monde dans lequel l’intelligence artificielle résoudrait tous nos problèmes, nous racontent tous n’importe quoi.» «Tout ça à cause d’un malentendu autour du nom donné à la discipline… qui n’a rien à voir avec de l’intelligence».

La machine à calculer de Pascal, en 1642, qui faisait additions et soustractions plus vite et sans erreur, représente le tout premier ordinateur. Après ces bases posées par Pascal, un mathématicien et inventeur britannique, Babbage, en 1830, «s’est approché à grand pas vers l’informatique moderne» et, en 1837, il invente «la première machine jamais conçue avec l’idée de la programmer».

«On peut améliorer la société grâce à la technologie, mais il faut la comprendre, la connaître et savoir à quoi elle sert… Les vraies questions qui se posent en matière de technologie sont d’une part politiques et d’autre part liées à la répartition des richesses.»

«Les pays les plus robotisés sont ceux dans lesquels il y a le moins de chômage (Japon, Allemagne)».

«Le véritable danger de l’IA vient de nous les humains» selon les programmations des robots.

Les problèmes connus avec les machines (exemple: accident mortel en 2016 avec l’Autopilot de Tesla) viennent de la programmation, car la machine «n’a pas l’intelligence de s’adapter aux situations» pour lesquelles elle n’a pas été réglée.

Les machines, les robots «n’inventent rien, ils ne font que suivre des règles, des exemples et des codes, en utilisant les données que nous choisissons pour ces systèmes… Elles nous fournissent une aide qui vient amplifier… nos capacités physiques ou intellectuelles, mais elles ne peuvent en aucun cas les remplacer.»

Les données des machines ne sont «qu’une infime partie de l’intelligence». La machine n’a «ni sens commun, ni empathie… ni curiosité… ni capacité d’innover… ni esprit critique… ni capacité de remise en cause… La machine ne doute pas… ne crée rien toute seule… elle copie… elle recrache des données ingurgitées avec les logiciels.»

«L’idée originale, intelligente vient du programmeur qui a pensé.»

Même l’ordinateur qui a battu Kasparov aux échecs ne réfléchissait pas, il régurgitait une énorme mémoire de milliers de parties avec une monstrueuse capacité de calcul.

D’autre part, «on peut tromper la machine avec des images générées qui ne représentent rien pour nous, mais dans lesquelles les réseaux de neurones vont trouver un animal ou un objet… avec un niveau de confiance élevé parce qu’elle manque totalement de sens commun et, bien sûr d’humanité.»

Pour l’IA pas de «vécu, (de) sensibilité, (d’)assimilation d’expériences, en un mot, (de) multidisciplinarité.» «La multidisciplinarité m’est apparue comme une clef fondamentale… (elle) apporte des idées qui permettent de résoudre les problèmes autrement… C’est la diversité et non l’uniformité qui crée de l’intelligence.»

L’auteur décrit ensuite toutes les améliorations apportées par les nouvelles technologies issues de l’IA et croit à son potentiel de transformation sur nos vies, mais conclut en exprimant «sa crainte que les gens croient tout ce qu’on leur raconte sur l’IA, parce qu’ils n’ont pas assez d’information sur le sujet.» Il se méfie en général de la «désinformation et de (la) malhonnêteté dans la façon de présenter les choses.»

«Il ne faut pas se voiler la face, il y aura des bugs. Oui on pourra programmer une machine avec des sources biaisées, et oui, on pourra fabriquer un robot à des fins destructrices. Il faut le comprendre et le reconnaître pour prendre conscience des limites et des dangers de ces technologies.»

Il nous conseille d’être conscient et informé pour ne pas laisser «le champ libre à ceux qui veulent garder le contrôle sur la technologie parce qu’ils y ont tout intérêt».

Au-delà «des craintes irréalistes et des attentes improbables» car les machines «ne sont pas magiques», il nous invite à nous méfier plutôt des mains dans lesquelles la technologie peut devenir un outil dangereux et nous signale un gros problème laissé dans l’ombre: l’importance des ressources que consomment déjà les méthodes courantes liées au big data.

«Pour faire tourner et refroidir les data centers, la consommation d’énergie en 2015 représentait 4% de la consommation énergétique mondiale. Près de Washington il y a des centrales nucléaires dédiées à l’alimentation des data centers. Dans les pays chauds le problème du refroidissement est encore plus sérieux». «Autour de 2020 l’économie digitale… pèsera pour 20% dans la consommation électrique de la planète».

«Nous sommes face à un problème écologique sérieux et cette course aux big data est en train de nous mener droit dans le mur.»

«Pour réduire l’impact écologique il faut chercher des solutions», «il faudrait se tourner vers le small data qui consommerait beaucoup moins d’énergie», «mais ce n’est pas à la mode aujourd’hui parce que les méthodes basées sur le big data marchent bien.»

L’auteur termine par son aspiration à la conservation «de notre sens critique, de notre empathie, de notre humanité, de tout ce qui fait la différence entre un humain et une machine.»

Commentaire MFT:

La caractéristique essentielle de l’intelligence, telle que la conçoivent les humains, réside dans sa capacité d’adaptation aux situations nouvelles.

Un robot obéit à des règles et ne sait pas s’adapter aux situations non prévues par sa programmation.

L’apparente «intelligence» artificielle de la machine est issue de des humains qui l’ont conçue grâce à leurs capacités de penser, de réfléchir, de concevoir, d’inventer, d’innover, de créer, toutes choses impossibles pour les machines.

Pour penser, un humain doit:

– percevoir (la machine enregistre des images données, choisies par des humains)

– se représenter (les images conservées en mémoire sont déterminées par des humains)

– acquérir des concepts: construction intérieure d’un esprit c’est-à-dire issue de la vie intérieure d’un humain vivant ayant un psychisme.

(La machine comptabilise des pixels, calcule, compare des nombres mais ne sait pas interpréter une image ou une donnée, ne sait pas donner du sens, ne sait pas reconnaître un objet ou un sujet, elle le «calcule» à partir d’éléments matériels visibles).

L’humain sait reconnaître un sujet ou un objet à partir d’éléments visibles et à partir d’éléments subtils invisibles à l’œil, qui appartiennent à ses capacités de perception suprasensible comme par exemple être capable de «voir», de reconnaître les sentiments exprimés par un visage, de reconnaître un «air de famille» entre un nourrisson et un adulte qui n’ont rien en commun au niveau des formes, reconnaître une variété de plante même sur un échantillon fané ou déformé par la maladie, etc.

Un humain peut acquérir de l’expérience qui augmente ses capacités de perception et de compréhension des phénomènes. Un ordinateur est figé dans sa programmation.

Des éléments des facultés intellectuelles humaines sont copiées, ont inspiré les programmes mais ne remplacent pas l’entendement humain. Les robots peuvent remplacer les humains dans leurs tâches matérielles répétitives n’exigeant ni réflexion, ni créativité.

Mais il est vrai que les humains ne sont pas obligés de se servir de leur intelligence. Portés seulement par des conformismes, des préjugés, des habitudes de pensées, sans esprit critique ni jugements personnels, ils peuvent se comporter en automates, remplaçables par d’autres automates mécaniques, dans des fonctions matérielles. Ceux qui se contentent d’obéir à des protocoles préétablis, uniformisés, se comportent en automates.

Il semble actuellement que ce soit l’ambition de plus en plus affichée de certains milieux professionnels comme le milieu médical hospitalier ou l’administration française. Cela correspond à une régression en humanité et donc en intelligence.

Ce ne sont pas les robots ou l’IA qui progressent, c’est notre société qui régresse.