Un informaticien discute des avantages et des inconvénients de ChatGPT

Avec son incroyable capacité à imiter le langage et le raisonnement humains, ChatGPT semble annoncer une révolution dans l’intelligence artificielle. Le chatbot agile peut évoquer des poèmes et des essais, partager des recettes, traduire des langues, dispenser des conseils et raconter des blagues, parmi les applications sans fin que les utilisateurs ont testées depuis que le laboratoire de recherche de la Silicon Valley OpenAI a publié l’outil de traitement du langage naturel en novembre.

L’excitation s’accompagne d’une certaine appréhension – que la technologie puisse dégrader l’écriture humaine authentique et la pensée critique, bouleverser les industries et amplifier nos propres préjugés et préjugés.

Pour ceux qui travaillent dans l’intelligence artificielle, ChatGPT n’est pas simplement une sensation du jour au lendemain, mais une marque de réussite après des années d’expérimentation, déclare Daniel Khashabi, professeur adjoint d’informatique à Johns Hopkins, spécialisé dans le traitement du langage et a travaillé sur des outils similaires.

“ChatGPT peut sembler être une révolution soudaine sortie de nulle part”, dit-il. “Mais cette technologie s’est développée progressivement au cours de nombreuses années, avec des progrès rapides au cours des dernières années.”

Cependant, Khashabi reconnaît l’ère sans précédent que ChatGPT semble initier, une ère débordante de potentiel pour l’avancement humain. “C’est vraiment notre chance de revoir notre compréhension de ce que signifie être intelligent”, dit-il. “C’est une période passionnante parce que nous avons cette chance de travailler sur de nouveaux défis et de nouveaux horizons qui nous semblaient hors de notre portée.”

Alors que Microsoft investit dans l’outil, OpenAI publie une version payante et Google prévoit de publier son propre chatbot expérimental, le Hub s’est entretenu avec Khashabi pour avoir un aperçu de la technologie et de sa direction.

Pouvez-vous expliquer le fonctionnement de ChatGPT ?

La première étape n’implique pas de rétroaction humaine directe. Le modèle apprend la structure du langage en régurgitant de vastes volumes de texte à partir du Web, par exemple, des phrases et des paragraphes de Wikipedia, Twitter, Reddit, The New York Times, etc., et dans toutes les langues. Il est également formé aux codes écrits par des programmeurs, à partir de plateformes comme GitHub.

Dans la deuxième étape, [generally called “self-supervised” learning], des annotateurs humains participent à la formation du modèle pour qu’il devienne plus sophistiqué. Ils écrivent des réponses aux différents types de requêtes que ChatGPT reçoit, de sorte que le modèle apprend à effectuer des tâches à partir de commandes telles que “écrire un essai sur ce sujet” ou “réviser ce paragraphe”.

Parce qu’OpenAI est assis sur une mine d’or, ils peuvent se permettre d’embaucher de nombreux annotateurs et de les faire annoter beaucoup de données de haute qualité. J’ai entendu par la vigne que le système initial était alimenté par près de 100 000 cycles de rétroaction humaine. Il y a donc beaucoup de travail humain derrière tout cela.

Mais l’arme secrète d’OpenAI n’est pas sa technologie d’IA mais les personnes qui utilisent ses services. Chaque fois que quelqu’un interroge son système, il collecte ces requêtes pour adapter le ChatGPT à ce que les utilisateurs recherchent et identifier les faiblesses de leurs systèmes. En d’autres termes, le succès d’OpenAI a attiré des millions de personnes pour utiliser sa démo.

Comment avez-vous personnellement expérimenté ChatGPT ?

Cela peut être un excellent outil d’écriture et de brainstorming. Je peux écrire un résumé d’une idée que j’ai en tête, demander à ChatGPT de l’étendre de manière plus sophistiquée, puis choisir les résultats que j’aime et les développer moi-même ou continuer à utiliser ChatGPT. C’est l’écriture collaborative homme-machine. Comme quelqu’un sur Twitter l’a dit avec justesse, “ChatGPT est le vélo électrique pour votre cerveau!”

Que pensez-vous de toute l’attention et de la presse qu’il reçoit ?

C’est une autre étape importante pour les progrès de l’IA et mérite d’être célébrée. Il est passionnant que l’IA et le traitement du langage naturel se rapprochent de l’aide aux humains dans les tâches qui les intéressent.

Cependant, je crains de surévaluer l’état de l’IA. Des progrès ont été faits, mais “l’intelligence générale” n’est toujours pas à l’horizon. Au cours des dernières décennies, nous avons continuellement révisé nos notions de ce que signifie être “intelligent” à chaque fois que nous progressons. Dans les années 1960 et 1970, notre but était de créer un système pour jouer aux échecs contre un être humain. Il existe de nombreux exemples comme celui-ci. Chaque fois que nous progressons, nous pensons, “Ça y est!” Mais au bout d’un moment, le battage médiatique meurt, et nous voyons les problèmes et identifions de nouveaux besoins.

“L’intelligence” a toujours été un objectif mouvant et le restera probablement, mais je suis enthousiasmé par les progrès que je constate dans la résolution des lacunes des systèmes de type ChatGPT.

Quelles sont ces lacunes?

Il est facile pour ChatGPT d’inventer des choses. Si vous demandez à ChatGPT quelque chose de niche qu’il n’a jamais vu auparavant, il hallucinera des faits dans un langage fluide et argumentatif. Par exemple, si vous lui demandez de définir “Dans quel tournoi Venus Williams a-t-elle remporté son huitième Grand Chelem ?” cela vous apportera une réponse, même si Venus Williams a remporté sept tournois du Grand Chelem. Elle voulait gagner son huitième, comme l’ont rapporté de nombreux points de vente, mais elle ne l’a pas fait. Et le modèle confond les deux notions de “voulait gagner” contre “gagné”.

Et le problème est qu’il le fait si couramment. Cela peut vous donner des ordures, mais dans un langage tellement fluide et cohérent que, si vous n’êtes pas un expert dans ce domaine, vous pourriez croire que ce qu’il dit est vrai. Cela m’inquiète, et je pense que nous, les humains, sommes crédules face à des résultats apparemment bien articulés.

D’un autre côté, qu’est-ce qui est excitant avec ChatGPT ?

Nous avons maintenant ces outils qui peuvent générer un langage créatif et fluide, un défi que nous avons passé des années à relever. En tant que scientifique de l’IA, mon enthousiasme concerne les prochaines étapes, et nous avons de nouveaux problèmes à résoudre pour l’IA.

Je suis moins enthousiasmé par l’objectif de l’IA – l’ingénierie inverse de l’intelligence humaine – et plus par l’IA, ou l’augmentation de l’intelligence. Je pense que c’est un objectif valable d’utiliser l’IA pour permettre aux humains de faire de meilleures choses et d’augmenter les capacités humaines. Je suis enthousiasmé par ce genre de systèmes collaboratifs.

Comment voyez-vous la technologie évoluer ?

Nous sommes toujours au milieu de ce changement, mais nous continuerons à rendre les modèles de langage plus efficaces, conduisant à des modèles beaucoup plus compacts mais de haute qualité. On assistera donc partout à des formes très fiables d’agents conversationnels. Les futurs modèles seront vos assistants pour la navigation sur le Web, accomplissant diverses tâches Web banales que nous effectuons nous-mêmes ces jours-ci.

Le même ensemble de technologies commence également à faire son chemin vers le monde physique. Les modèles actuels, tels que ChatGPT, ne perçoivent pas leur environnement. Par exemple, ils ne peuvent pas voir où se trouve mon téléphone ou à quel point je suis fatigué. Bientôt, nous verrons ChatGPT avec les yeux. Ces modèles utiliseront différentes modalités de données (textuelles, visuelles, auditives, etc.), qui leur sont nécessaires pour nous servir au quotidien.

Cela conduira à des robots auto-supervisés basés sur les données de leurs environnements physiques, y compris les objets physiques, les humains et leurs interactions. Les impacts ici seront énormes. Dans moins de 10 ans, tous les appareils physiques que nous utilisons quotidiennement – ​​voiture, réfrigérateur, lave-linge, etc. – deviendront des agents conversationnels avec lesquels vous parlerez. Nous verrons également des robots incroyablement robustes pour résoudre des problèmes impossibles aujourd’hui. Imaginez être sur le point de parler avec votre Roomba de choses que vous vouliez faire ou ne pas faire de la façon dont vous conversez avec ChatGPT.

Il est également essentiel de ne pas perdre de vue comment ces technologies vont changer les choses au niveau sociétal. Les futurs modèles multimodaux – les ChatGPT avec des yeux et des oreilles – seront partout et auront un impact sur tout, y compris la sécurité publique. Mais vient maintenant l’inquiétude : dans une société où nous sommes constamment surveillés par des modèles d’IA qui ont des yeux et des oreilles et qui s’améliorent continuellement à mesure qu’ils tendent, à quoi ressembleront notre liberté et notre vie privée ?

Cela ressemble à une société dystopique décrite par le célèbre roman 1984. Comme toute autre technologie, les modèles auto-supervisés sont des épées à double tranchant. Le mieux que nous puissions faire maintenant est de rester vigilant, de prévoir et de débattre de ces problèmes avant que les candidatures ne se multiplient. Idéalement, nous devons développer des cadres qui garantissent notre liberté et notre équité en extrapolant à partir d’exemples tels que ChatGPT à ses futures extensions. Je suis optimiste que nous le ferons.