« Il est difficile de voir comment éviter que les mauvais acteurs l’utilisent pour de mauvaises choses. » C’est en ces termes que Geoffrey Hinton s’alarme de l’avenir sombre qu’ouvre le développement fulgurant des techniques d’intelligence artificielle. Tous les chercheurs n’ont pas ce sursaut de conscience prémonitoire du devenir de leurs découvertes et inventions, mais il faut bien dire que, à l’heure de l’emprise toujours plus forte de l’intelligence non-humaine sur nos vies comme à celle de l’invention de la première pierre tranchante, aucun d’entre eux n’a jamais pu pressentir ce que leurs successeurs feraient de leur travail.
Premier homme, première pierre tranchante, première reproduction d’une pierre tranchante, amélioration au fil des âges de cette pierre tranchante pour en faire une pointe de flèche, puis la tailler dans de l’os, puis une lame dans du fer, puis dans de l’acier. D’abord utilisée pour tailler des fruits, pour racler des peaux, pour tuer les animaux que recouvrent ces peaux, la pierre devenue lame ou encore javelot ou épée, servira finalement à un nombre incalculable de violences humaines du mouvement de défense contre un ennemi au crime gratuit contre ses semblables et ses proches. D’aucun se servent encore d’une lame pour couper le pain.
L’autre question de Geoffrey Hinton est : « Devons-nous développer des esprits non-humains qui pourraient être plus nombreux, plus intelligents et nous remplacer ? » Mais, comme la lame, bien des inventions très humaines, célébrées même jusqu’au prix Nobel, sont devenues inhumaines, parce que promues par des hommes sans sursaut éthique, aux cœurs non-humains c’est-à-dire dépourvus de toute altérité. Comment créer des esprits non-humains qui sauraient ce qu’est une chose mauvaise alors qu’ils sont élaborés, développés, distribués par des esprits humains qui ont démontré, depuis la première pierre tranchante, qu’ils n’étaient pas capables de répondre sans faillir aux pires excès ?
C’est toute l’histoire de Fritz Haber, et tout une partie du drame de l’Histoire du XXème siècle. Ce prix Nobel de 1918 avait commencé ses recherches par la synthèse de l’ammoniac, qui devait donner naissance aux engrais pour l’agriculture. Miracle pour la pérennité de l’alimentation mondiale et la résolution des famines, désastre connu pour l’environnement et la biodiversité après plus de cent années d’usage. Pire, la poursuite de ses travaux de chimie conduisit à l’invention des monstrueux gaz de la Première Guerre mondiale : l’ypérite. Pire encore, l’un de ses confrères s’appuya sur ses travaux sur les pesticides pour concevoir l’ignoble zyklon-B utilisé par les Nazis dans les chambres à gaz des camps de concentration et d’extermination. Fritz Haber résista par cette phrase : « un savant appartient au monde en temps de paix et à son pays en temps de guerre », à sa femme, Clara Immerwahr, brillante chimiste, qui tenta de lui faire prendre conscience des crimes abominables auxquels il vouait sa science. Celle-ci se suicida en 1915.
L’intelligence humaine est en passe de créer des esprits non-humains, artificiels, c’est-à-dire des nous-mêmes potentiellement pires que nous, parce que modelés sur nous, parce que commandés par nous, ce qui permettrait à chaque individu de séparer l’acte de la conscience de l’acte, ce qui permettrait aux politiques, à tout État, de biaiser, de falsifier toute la chaîne morale entre l’invention, l’intention et l’utilisation. C’est quand la main de l’homme s’est outillée, s’est faite industrielle qu’elle a perdu de son humanité parce que la machine est plus rapide, se fatigue moins que lui et l’éloigne des effets et conséquences de ses actes.
« Il est difficile de voir comment éviter que les mauvais acteurs l’utilisent pour de mauvaises choses. » La réponse de Geoffrey Hinton dans un entretien avec un journaliste de CBS News en mars dernier laisse peu de doute ; c’est « inévitable ». C’est, malheureusement, humain.
Guillemette Callies 