Le fabricant de ChatGPT OpenAI lance un outil pour détecter le texte écrit par l’IA

La startup de recherche en intelligence artificielle OpenAI a présenté mardi un outil conçu pour déterminer si le texte est généré par l’homme ou écrit par un ordinateur.

La sortie intervient deux mois après qu’OpenAI ait attiré l’attention du public lors de l’introduction de ChatGPT, un chatbot qui génère du texte qui peut sembler avoir été écrit par une personne en réponse à l’invite d’une personne. Suite à la vague d’attention, la semaine dernière Microsoft a annoncé un investissement de plusieurs milliards de dollars dans OpenAI et a déclaré qu’il intégrerait les modèles d’IA de la startup dans ses produits destinés aux consommateurs et aux entreprises.

Les écoles ont rapidement limité l’utilisation de ChatGPT par crainte que le logiciel puisse nuire à l’apprentissage. Sam Altman, PDG d’OpenAI, a déclaré que l’éducation avait changé dans le passé après l’émergence de technologies telles que les calculatrices, mais il a également déclaré qu’il pourrait y avoir des moyens pour l’entreprise d’aider les enseignants à repérer les textes écrits par l’IA.

Le nouvel outil d’OpenAI peut faire des erreurs et est un travail en cours, ont écrit les employés de l’entreprise Jan Hendrik Kirchner, Lama Ahmad, Scott Aaronson et Jan Leike dans un article de blog, notant qu’OpenAI aimerait avoir des commentaires sur le classificateur de la part des parents et des enseignants.

“Dans nos évaluations sur un” ensemble de défis “de textes anglais, notre classificateur identifie correctement 26% du texte écrit par l’IA (vrais positifs) comme” probablement écrit par l’IA “, tout en étiquetant incorrectement le texte écrit par l’homme comme écrit par l’IA 9% de l’époque (faux positifs)”, ont écrit les employés d’OpenAI.

Ce n’est pas le premier effort pour déterminer si le texte provient d’une machine. Edward Tian, ​​étudiant à l’Université de Princeton, a annoncé plus tôt ce mois-ci un outil appelé GPTZero, notant sur le site Web de l’outil qu’il était conçu pour les éducateurs. OpenAI lui-même a publié un détecteur en 2019 parallèlement à un grand modèle de langage, ou LLM, qui est moins sophistiqué que ce qui est au cœur de ChatGPT. La nouvelle version est mieux préparée pour gérer le texte des systèmes d’IA récents, ont écrit les employés.

Le nouvel outil n’est pas efficace pour analyser les entrées contenant moins de 1 000 caractères, et OpenAI ne recommande pas de l’utiliser sur des langues autres que l’anglais. De plus, le texte de l’IA peut être légèrement mis à jour pour empêcher le classificateur de déterminer correctement qu’il ne s’agit pas principalement du travail d’un humain, ont écrit les employés.

Même en 2019, OpenAI a clairement indiqué que l’identification de texte synthétique n’est pas une tâche facile. Elle entend continuer à relever le défi.

“Notre travail sur la détection de texte généré par l’IA se poursuivra et nous espérons partager des méthodes améliorées à l’avenir”, ont écrit Hendrik Kirchner, Ahmad, Aaronson et Leike.

REGARDEZ: Le chinois Baidu développe un chatbot basé sur l’IA pour rivaliser avec OpenAI, selon un rapport