par OpenAI, le créateur de ChatGPT, a publié aujourd’hui un classificateur de texte AI qui pourrait vous aider à déterminer si le texte que vous lisez a été écrit par l’IA ou par un humain.
Mais il y a un mais.
OpenAI note qu’il est “impossible de détecter de manière fiable tout le texte écrit par l’IA” et qu’il n’a “pas évalué en profondeur l’efficacité du classificateur dans la détection du contenu écrit en collaboration avec des auteurs humains”.
Pourquoi nous nous soucions. Il existe déjà une variété de détecteurs de contenu IA. Si ces outils sont capables de faire un travail assez efficace pour identifier le texte généré par l’IA, il est prudent de supposer que les moteurs de recherche le peuvent. Pensez : le système de contenu utile de Google.
De plus, si vous publiez du contenu, il peut être judicieux de votre part d’exécuter tout contenu soumis par votre agence ou des rédacteurs indépendants via ces outils. Nous entrons dans une nouvelle ère – et vous ne voulez pas publier quoi que ce soit qui pourrait potentiellement faire en sorte que votre site soit signalé comme publiant du contenu généré automatiquement, ce qui est contraire aux directives de Google. Nous avons déjà commencé à utiliser des outils comme celui-ci pour tout le contenu contribué ici à Search Engine Land.
Qu’est-ce que le classificateur de texte AI ? OpenAI appelle son nouvel outil un “modèle GPT affiné qui prédit la probabilité qu’un morceau de texte ait été généré par l’IA à partir de diverses sources, telles que ChatGPT”.
Il a certaines limites – notamment les résultats peuvent être inexacts. OpenAI a principalement formé l’outil sur du contenu en anglais écrit par des adultes, il est donc tout à fait probable qu’il y ait de faux positifs. De plus, comme l’a souligné OpenAI, il est facile de modifier le texte généré par l’IA pour le faire passer pour un texte généré par l’homme. Comme indiqué dans sa section FAQ :
- “Les résultats peuvent aider, mais ne doivent pas être le seul élément de preuve, pour décider si un document a été généré avec l’IA. Le modèle est formé sur du texte écrit par l’homme à partir de diverses sources, qui peuvent ne pas être représentatifs de tous les types de texte écrit par l’homme.
Les résultats du classificateur. Après avoir collé votre texte dans l’outil (Open AI indique que vous avez besoin d’un minimum de 1 000 caractères, soit environ 150 à 250 mots), le classificateur de texte AI évaluera si le texte a été généré à l’aide de l’IA. Vous verrez l’une des cinq étiquettes :
- Très improbable.
- Peu probable.
- Pas clair si c’est le cas.
- Peut-être.
- Probable.
Voici les résultats après avoir collé le texte de cet article que vous lisez (écrit par un humain, je le jure) :
Et heureusement, le classificateur a pensé qu’il était “très peu probable” que cet article soit généré par l’IA.
Essayez l’outil par vous-même. Classificateur de texte AI d’OpenAI. C’est gratuit.
Plus de couverture. Vous pouvez lire l’annonce d’OpenAI ici : Nouveau classificateur d’IA pour indiquer le texte écrit par l’IA. Vous pouvez voir plus de couverture sur Techmeme.
