Les futuristes prédisent un point où les humains et les machines ne feront plus qu’un. Mais le verra-t-on venir ?

La plupart des gens connaissent le déluge d’applications d’intelligence artificielle (IA) qui semblent conçues pour nous rendre plus efficaces et créatifs. Nous avons des applications qui prennent des invites de texte et génèrent de l’art, et le controversé ChatGPT, qui soulève de sérieuses questions sur l’originalité, la désinformation et le plagiat.

Malgré ces préoccupations, l’IA devient de plus en plus omniprésente et intrusive. C’est la dernière technologie qui changera nos vies de manière irréversible.

Internet et les smartphones en sont d’autres exemples. Mais contrairement à ces technologies, de nombreux philosophes et scientifiques pensent que l’IA pourrait un jour atteindre (ou même dépasser) la “pensée” de style humain. Cette possibilité, associée à notre dépendance croissante à l’IA, est à l’origine d’un concept futuriste appelé “singularité technologique”.

Ce terme existe depuis un certain temps, ayant été popularisé par l’écrivain américain de science-fiction Vernor Vinge il y a quelques décennies.

Aujourd’hui, la “singularité” fait référence à un moment hypothétique auquel le développement de l’intelligence générale artificielle (IAG), c’est-à-dire une IA dotée de capacités de niveau humain, devient si avancé qu’il changera de manière irréversible la civilisation humaine.

Cela marquerait l’aube de notre inséparabilité des machines. À partir de ce moment, nous ne pourrons plus vivre sans eux sans cesser de fonctionner en tant qu’êtres humains. Mais si la singularité vient, la remarquerons-nous même ?

Les implants cérébraux comme première étape

Pour comprendre pourquoi ce n’est pas l’étoffe des contes de fées, il suffit de regarder aussi loin que les développements récents dans les interfaces cerveau-ordinateur (BCI). Les BCI sont un début naturel de la singularité aux yeux de nombreux futuristes, car ils fusionnent l’esprit et la machine d’une manière qu’aucune autre technologie ne peut jusqu’à présent.

La société Neuralink d’Elon Musk demande l’autorisation de la Food and Drug Administration des États-Unis pour commencer des essais sur l’homme pour sa technologie BCI. Cela impliquerait d’implanter des connecteurs neuronaux dans le cerveau des volontaires afin qu’ils puissent communiquer des instructions en les pensant.

Neuralink espère aider les paraplégiques à marcher et les aveugles voir à nouveau. Mais au-delà de ces objectifs, il y a d’autres ambitions.

Musk a longtemps déclaré qu’il croyait que les implants cérébraux permettraient la communication télépathique et conduiraient à la co-évolution des humains et des machines. Il soutient qu’à moins que nous n’utilisions une telle technologie pour augmenter notre intellect, nous risquons d’être anéantis par une IA super intelligente.

Musk n’est naturellement pas la référence de tout le monde pour l’expertise technologique. Mais il n’est pas le seul à prédire une croissance massive des capacités de l’IA. Les sondages montrent que les chercheurs en IA conviennent à une écrasante majorité que l’IA atteindra une “pensée” au niveau humain au cours de ce siècle. Ce sur quoi ils ne sont pas d’accord, c’est si cela implique la conscience ou non, ou si cela signifie nécessairement que l’IA nous fera du mal une fois qu’elle atteindra ce niveau.

Une autre société de technologie BCI, Synchron, a créé un implant peu invasif qui permet à un patient atteint de sclérose latérale amyotrophique (SLA) d’envoyer des e-mails et de naviguer sur Internet en utilisant ses pensées.

Le directeur général de Synchron, Tom Oxley, pense que les implants cérébraux pourraient finalement aller au-delà de la réhabilitation prothétique et transformer complètement la façon dont les humains communiquent. S’adressant à un public de TED, il a déclaré qu’ils pourraient un jour permettre aux utilisateurs de “jeter” leurs émotions afin que les autres puissent ressentir ce qu’ils ressentent, et “le plein potentiel du cerveau serait alors débloqué”.

Les premières réalisations dans les BCI pourraient sans doute être considérées comme les premières étapes d’une chute vers la singularité postulée, dans laquelle l’homme et la machine ne font plus qu’un. Cela n’implique pas nécessairement que les machines deviendront “sensibles” ou nous contrôleront. Mais l’intégration elle-même, et notre dépendance à son égard, pourrait nous changer irrévocablement.

Il convient également de mentionner que le financement de démarrage de Synchron provient en partie de la DARPA, la branche de recherche et développement du département américain de la Défense qui a aidé à offrir Internet au monde. Il est probablement sage de se préoccuper de l’endroit où la DARPA place ses fonds d’investissement.

AGI serait-il ami ou ennemi ?

Selon Ray Kurzweil, un futuriste et ancien ingénieur en innovations de Google, les humains dotés d’un esprit augmenté par l’IA pourraient être jetés sur l’autoroute de l’évolution, se précipitant sans limite de vitesse.

Dans son livre de 2012, How to Create a Mind, Kurzweil théorise le néocortex – la partie du cerveau considérée comme responsable des “fonctions supérieures” telles que la perception sensorielle, l’émotion et la cognition – est un système hiérarchique de reconnaissance de formes qui, s’il est imité dans une machine, pourrait conduire à une super-intelligence artificielle.

Il prédit que la singularité sera avec nous d’ici 2045, et pense qu’elle pourrait engendrer un monde d’humains super-intelligents, peut-être même le “Übermensch” nietzschéen : quelqu’un qui dépasse toutes les contraintes du monde pour réaliser son plein potentiel.

Mais tout le monde ne voit pas AGI comme une bonne chose. Le regretté et grand physicien théoricien Stephen Hawking a averti qu’une IA super intelligente pourrait entraîner l’apocalypse. En 2014, Hawking a déclaré à la BBC, “le développement de l’intelligence artificielle complète pourrait sonner le glas de la race humaine. […] Il décollerait tout seul et se redessinerait à un rythme de plus en plus rapide. Les humains, qui sont limités par une évolution biologique lente, ne pourraient pas rivaliser et seraient supplantés.”

Hawking était cependant un défenseur des BCI.

Connecté dans un esprit de ruche

Une autre idée liée à la singularité est celle de «l’esprit de la ruche» activé par l’IA. Merriam-Webster définit un esprit de ruche comme “l’activité mentale collective exprimée dans le comportement complexe et coordonné d’une colonie d’insectes sociaux (tels que les abeilles ou les fourmis) considérée comme comparable à un esprit unique contrôlant le comportement d’un organisme individuel”.

Une théorie a été développée par le neuroscientifique Giulio Tononi autour de ce phénomène, appelée Integrated Information Theory (IIT). Cela suggère que nous nous dirigeons tous vers une fusion de tous les esprits et de toutes les données.

Le philosophe Philip Goff explique très bien les implications du concept de Tononi dans son livre Galileo’s Error :

“L’IIT prédit que si la croissance de la connectivité basée sur Internet aboutissait à ce que la quantité d’informations intégrées dans la société dépasse la quantité d’informations intégrées dans un cerveau humain, alors non seulement la société deviendrait consciente, mais les cerveaux humains seraient” absorbés “dans cela. forme supérieure de conscience. Les cerveaux cesseraient d’être conscients à part entière et deviendraient plutôt de simples rouages ​​de l’entité méga-consciente qu’est la société, y compris sa connectivité basée sur Internet.

Il convient de noter qu’il y a peu de preuves qu’une telle chose puisse se concrétiser. Mais la théorie soulève des idées importantes non seulement sur l’accélération rapide de la technologie (sans parler de la façon dont l’informatique quantique pourrait propulser cela) – mais sur la nature de la conscience elle-même.

Hypothétiquement, si un esprit de ruche devait émerger, on pourrait imaginer qu’il marquerait la fin de l’individualité et des institutions qui en dépendent, y compris la démocratie.

La dernière frontière est entre nos oreilles

OpenAI (la société qui a développé ChatGPT) a récemment publié un article de blog réaffirmant son engagement à atteindre AGI. D’autres suivront sans doute.

Nos vies deviennent guidées par des algorithmes d’une manière que nous ne pouvons souvent pas discerner et que nous ne pouvons donc pas éviter. De nombreuses caractéristiques d’une singularité technologique promettent des améliorations incroyables à nos vies, mais il est inquiétant que ces IA soient le produit de l’industrie privée.

Ils ne sont pratiquement pas réglementés et dépendent en grande partie des caprices de “technopreneurs” impulsifs avec plus d’argent que la plupart d’entre nous réunis. Que nous les considérions comme des fous, des naïfs ou des visionnaires, nous avons le droit de connaître leurs plans (et de pouvoir les réfuter).

Si l’on se fie aux dernières décennies, en ce qui concerne les nouvelles technologies, nous serons tous touchés.

Cet article est republié de The Conversation sous une licence Creative Commons. Lire l’article d’origine.