Kevin Kelly : “La peur des IA et des robots nous rend bêtes”

Chaque année, la conférence USI reçoit les plus grands noms de la recherche, du business et de la technologie, pour brasser les idées forces du moment et nous aider, collectivement, à résoudre une question centrale de notre présent.

Cette année, l’événement, qui vient juste de se clôturer, se plaçait sous le patronage de Kevin Kelly, ancien rédacteur en chef de la Whole Earth Review, cofondateur de la revue Wired et créateur de la communauté virtuelle WELL (en… 1985 !), autour de son essai Ce que veut la technologie (What Technology Wants, Viking Press, 2010, non traduit).

Car pour Kevin Kelly, la technologie veut. Elle veut suivre son propre chemin. Pas de façon consciente, bien sûr. Dans le même sens où l’on dit qu’une plante veut du soleil ou qu’un virus veut se répliquer : toute sa nature la pousse à être et à se développer d’une certaine façon, qu’on peut éventuellement aiguiller, mais certainement pas empêcher. Autre conséquence : on peut prédire ses évolutions. Sa direction générale. Les formes précises qu’elle prendra, cependant, restent de notre ressort. 

Nous avons profité de l’expérience de Kevin Kelly pour lui poser les questions qui nous agitent, dans le sillage de la pandémie de Covid et avant que ne s’ouvre, quelle que soit sa forme, le monde d’après. 

Interview de Kevin Kelly

• WE DEMAIN. La pandémie nous a fait comprendre que nous étions très dépendants de la technologie : tout aurait été très différent sans le télétravail, le streaming, le click and collect… Avons-nous franchi un point de non-retour ? La technologie est-elle désormais plus forte que nous ?

Kevin Kelly. Ce qui a été incroyable, aux États-Unis en tout cas, c’est à quel point tout a continué à fonctionner, alors que plus personne ne travaillait : les “travailleurs essentiels” étaient vraiment une minorité. Il y a cent ans, si autant de gens s’étaient arrêtés purement et simplement de travailler, la société entière aurait été à l’arrêt. Mais grâce à l’automatisation, le système a pu opérer, sans la grande majorité de ses travailleurs. Donc pour moi, la leçon, c’est que la civilisation, ça marche. 

Devrions-nous nous inquiéter de cela ? C’est comme se demander si nous devrions nous inquiéter d’être autant accros à l’électricité. L’électricité, tant que ça marche, c’est fantastique. Et si tout tombait en panne, ce serait effroyable. Dès lors, la solution, ce n’est pas d’essayer de s’affranchir de l’électricité, c’est de faire en sorte qu’elle ne tombe pas en panne. C’est aussi simple que ça. Et c’est aussi ça, la civilisation : des systèmes redondants, des couches de systèmes, superposées les unes aux autres, qui limitent ce type de danger.

Imaginez que j’ai une baguette magique et que je dise : “OK, à partir de maintenant il n’y a plus de technologie. Plus rien de ce que nous avons inventé. Pas de vêtements. Pas de couteaux, rien.” L’humanité durerait six mois, et puis disparaîtrait, entièrement. Les animaux et les maladies auraient notre peau. Nous avons inventé tout cela parce que justement nous ne faisons pas le poids. Nous sommes déjà, depuis très longtemps, dépendants de la technologie. Nous sommes par essence dépendants de la technologie. 

À lire aussi : I.A., Ô mon I.A., suis-je toujours le plus beau ?

“Nous sommes par essence dépendants de la technologie”

• WE DEMAIN. Mais évoluons-nous suffisamment vite ? Avec des robots par exemple, nous pourrions libérer les humains du travail. Une perspective pour l’instant surtout synonyme de chômage. Les accélérations technologiques suscitent plus d’angoisse que d’espoir…

Kevin Kelly. Non. Si l’esprit humain ne change pas, il ne tiendra en effet pas la route. Mais nous allons rapidement avoir d’autres esprits. Je parle des intelligences artificielles, qui seront, elles, tout à fait à même de faire face à cette accélération. De plus, nous allons modifier nos esprits. Par des systèmes similaires au Neuralink d’Elon Musk, ce genre de choses, nous pourrons plus facilement suivre les avancées technologiques, et nous y adapter. Si nous voulons contrôler la technologie, puisque nous ne pouvons pas l’arrêter, nous devons l’accueillir et l’embrasser.

Mais là aussi, c’est ce que nous avons toujours fait. Nous n’avons jamais cessé de nous modifier. Nous nous sommes créé un second estomac : en cuisant les aliments, nous les pré-digérons, et ce système a permis de développer nos cerveaux d’une façon qui n’aurait jamais pu advenir sans la domestication du feu. Et le cerveau est incroyablement malléable, plastique. Les neuroscientifiques le savent bien. En combinant les intelligences artificielles, les liens cybernétiques et la génétique, nous allons évidemment nous modifier, et ainsi rester en phase avec les évolutions technologiques.

“Nous n’avons jamais cessé de nous modifier.”

Cela pose évidemment la question : qu’est-ce qu’être humain ? Quel est notre rôle ? Devons-nous devenir des machines ? Il y a une peur des I.A. et des robots. Et la peur nous rend bêtes. Il ne faut donc pas avoir peur et comprendre que si nous inventons des choses, c’est parce que nous aimons ça. Mais, surtout, que ce que les robots font avant tout, c’est nous permettre de faire plus de choses que nous aimons. Là où les humains sont les meilleurs, c’est dans l’inefficacité. C’est quand ils ne sont pas productifs. Les machines seront toujours plus productives que nous.

Mais nous, ce qui nous plaît, c’est tout ce qui nous étonne, tout ce qui autorise la surprise. Nous aimons être créatifs, nous aimons socialiser, nous aimons passer du temps avec nos amis et amies, nos proches, être ensemble et rigoler : tout cela, il faudra bien longtemps avant que les robots en soient capables. Et d’ici là, nous passerons nos journées à nous soucier et nous occuper les uns des autres, à nous distraire ou distraire les autres, à discuter, à créer… 

Ce n’est pas une idée romantique : c’est ce qui va arriver, puisque c’est déjà arrivé. Si j’avais dit à votre grand-père : “Un jour, votre petit-fils sera payé pour discuter en vidéo avec un type qui écrit sur la technologie”, il m’aurait pris pour un fou. De même, les métiers de demain sont inimaginables. Mais la tendance générale, c’est que nous inventons de nouvelles choses, de nouveaux modes de vie, qui nous plaisent. Une invention est d’abord impossible, puis c’est un luxe, puis on ne peut plus s’en passer. Au fond, notre travail, ce sera de trouver du travail à donner aux robots. 

À lire aussi : 10 innovations qui pourraient révolutionner le monde de demain

“En combinant les IA, les liens cybernétiques et la génétique, nous allons rester en phase avec les évolutions technologiques.”

• WE DEMAIN. Sauf qu’il y a aussi une fatigue technologique. Au bout d’un moment, ça va trop vite… Quand Internet est arrivé c’était génial, quand Facebook est arrivé c’était fascinant, et puis maintenant, Twitter, Instagram, Tik Tok… On est obligé de dire, à un moment : “OK, là, moi j’arrête, je suis out.” Sans parler de toutes les autres technologies qui s’annoncent : les IA, les mondes virtuels, la reconnaissance faciale généralisée…

Kevin Kelly. Ah oui, c’est épuisant. En fait, nous savons, grâce aux études sociologiques et psychologiques, que l’abondance de choix peut être paralysante. À cela, une bonne solution, c’est celle des menus déroulants des ordinateurs qui, en réalité, vous masquent la plupart des choix que vous avez. Les réduisent pour vous, en apparence. Pour votre confort. Ils vous sont cachés, jusqu’à ce que vous soyez prêt à les voir. Donc oui, tout cela nous dépasse, mais une piste peut être d’inventer la technologie qui nous permette de le gérer. 

Mais d’une manière plus générale, ce qui devient évident, c’est que nous développons une éducation à la technologie. Qui devrait être enseignée à l’école, d’ailleurs. Parce que tout ce qui entre dans nos vies a un coût. Rien n’est gratuit. Utiliser une technologie, ça a toujours un prix. Ce prix, ça peut être votre attention, ou le temps passé à apprendre à utiliser le service, ou bien d’autres choses. Mais à un moment, ça vous rattrape toujours. 

“Heureusement, nous n’avons pas besoin de maîtriser toutes les technologies.”

Heureusement, nous n’avons pas besoin de tout maîtriser. Il y a deux cents ans, on trouvait des gens qui pensaient que tout savoir, tout connaître, était possible. Désormais, plus personne n’ose même rêver de cela. On sait que le savoir est trop vaste, qu’il est inutile d’essayer. Et l’on se contente d’apprendre ce que l’on a besoin de savoir, une chose après l’autre. Nous avons atteint ce stade aussi pour les inventions. Au bout d’un moment, on se dit : “Non, là non. Je ne vais pas apprendre les réseaux sociaux, ou la réalité virtuelle, ou la programmation”, que sais-je encore… “Je ne vais pas apprendre telle chose, et cela fera partie de mon identité. Je serai, en fait, défini aussi parce que je ne fais pas.”

Dans l’immédiat, si vous allez, je ne sais pas, au Pérou, vous tomberez sur des gens qui utilisent sensiblement les mêmes outils que vous. Un ordinateur, un Smartphone, des réseaux sociaux… Mais bientôt, ce ne sera plus le cas. Dans cent ans, certaines personnes seront des maîtres de tel ou tel domaine, et d’autres ne les utiliseront pas du tout. On verra des gens qui vivent presque complètement dans la réalité virtuelle, tout en écoutant des disques vinyles. Chacun aura son propre mixte, personnel, de technologies. 

• WE DEMAIN. Vous conseilleriez donc à nos lecteurs de choisir les technologies qui leur parlent, et de ne pas essayer d’être toujours à la pointe de tout ?

Kevin Kelly. Oui, c’est cela la techno-éducation. À l’école, vous voulez être exposé à tout. Avoir un aperçu de l’astronomie, de la biologie, de la littérature, de tous les possibles… Et puis, vous découvrez ce qui vous intéresse, et ce qui vous laisse de marbre. Et vous choisissez ce qui vous intéresse. Et laissez le reste à d’autres. Il faut faire pareil.

• WE DEMAIN. Certes, mais il y a des technologies auxquelles on ne peut pas échapper. Je pense à la reconnaissance faciale généralisée, qui semble bien partie pour être mise en place en France et au final, partout dans le monde. Et beaucoup de gens — dont moi ! — n’en veulent pas. Comment faire ?

Kevin Kelly. D’abord, je pense que c’est inévitable. Ça arrivera. La question est seulement : comment la réguler ? Comment la contrôler ?

Premièrement, la reconnaissance faciale ne fonctionne qu’utilisée avec d’autres indicateurs biométriques. Un visage, ça se masque, ça se maquille. Une caméra ça se paralyse. Mais si les outils de surveillance captent aussi votre démarche, votre iris, votre pouls, votre langage corporel, toutes ces choses qui sont uniques aux individus, là on ne pourra pas y échapper.

“L’anonymat est nécessaire à la démocratie, mais à petites doses.”

Deuxièmement, remarquons tout de même une chose : c’est que votre visage, c’est ce que vous avez de plus personnel. Aucune partie de votre corps n’est plus singulière, unique, que votre visage. Pourtant, c’est aussi la partie de votre corps qui est la plus publique, la plus partagée. C’est un étrange dilemme. Dans un sens, votre visage m’appartient aussi. Il est donné au monde. C’est comme ça que je vous reconnais, et pour moi c’est nécessaire de vous reconnaître. C’est votre façon de vous projeter vers les autres, de dire “je suis moi, et voilà comment me connaître”. Et nous avons besoin de nous identifier les uns les autres.

Si quelqu’un veut voler votre identité, il pourra contrefaire votre visage, ou votre voix, ou votre démarche, ou votre façon de parler… Mais il ne pourra jamais tout imiter en même temps. Donc, les intelligences artificielles se reposeront sur cet ensemble de paramètres pour vous reconnaître, comme nous le faisons entre nous.

Mais nous avons besoin de nous identifier. Je pense que l’une des causes majeures de la violence sur les réseau sociaux, c’est l’anonymat. Quand les gens doivent assumer leurs propos, ils sont beaucoup plus responsables… Ils sont meilleurs. Bien sûr, l’anonymat doit rester une possibilité, c’est important. Mais il faut le limiter. À l’image des métaux rares, le mercure ou le cadmium : on en a besoin pour vivre, mais en petite quantité, sinon ils sont très toxiques. L’anonymat, c’est pareil : il est nécessaire à la démocratie, mais à petites doses. S’il est partout, il est toxique. Donc nous devons nous identifier, dire qui nous sommes car, quand on le fait, nous sommes de meilleurs citoyens.

“Si la reconnaissance facile est partagée, si j’ai aussi accès aux informations, alors c’est une bonne chose.”

Dès lors, la reconnaissance faciale généralisée arrivera, et la question à poser est donc : qui aura accès à ces informations ? Si seule la police peut nous observer, c’est une relation asymétrique, et délétère. Mais si c’est partagé, à double-sens, si j’ai aussi accès aux informations, alors c’est une bonne chose. Après tout, à l’origine, en tribus, tout le monde savait tout sur tout le monde. Nous sommes faits pour cela. Nous avons évolué ainsi.

L’enjeu, c’est la forme que prendra ce système : qui détient les données, qui régule leur usage, ai-je accès aux informations, la relation est-elle symétrique ? Si quelqu’un me voit, je dois le savoir. Je dois avoir du pouvoir sur ce qui va advenir de cette information. Quand je suis dehors, je montre mon visage à tout le monde, mais si vous prenez une photo, je dois savoir ce que vous en ferez, où elle ira, comment elle sera utilisée. Avoir du pouvoir. C’est la même chose.

Personnellement, j’adorerais avoir des lunettes qui me disent qui sont les personnes que je croise dans la rue. Vous êtes dehors ? Je dois pouvoir savoir qui vous êtes. Peut-être peut-on imaginer une règle : si je ne vous ai jamais rencontré, je n’ai pas à savoir qui vous êtes. Mais si vous avez donné votre accord, et moi aussi, et que quand on se croise mes lunettes me rappellent votre nom, et d’autres informations que j’aurais pu oublier ? Voilà un pouvoir qui me plairait bien !