par Les écoles publiques de la ville de New York ont un accès restreint à ChatGPT, le système d’IA qui peut générer du texte sur une gamme de sujets et dans différents styles, sur les réseaux et appareils scolaires. Comme largement rapporté ce matin et confirmé à TechCrunch par un porte-parole du ministère de l’Éducation de la ville de New York, la restriction a été mise en œuvre en raison de préoccupations concernant «[the] impacts négatifs sur l’apprentissage des élèves » et « la sécurité et l’exactitude » du contenu produit par ChatGPT.
“Bien que l’outil puisse fournir des réponses rapides et faciles aux questions, il ne développe pas les compétences de pensée critique et de résolution de problèmes, qui sont essentielles pour la réussite scolaire et tout au long de la vie”, a déclaré le porte-parole à TechCrunch par e-mail, ajoutant que le restreint l’accès est venu en réponse aux demandes des écoles.
Ce n’est pas une interdiction en soi. Le système scolaire public de la ville de New York utilise le même filtre pour ChatGPT qu’il utilise pour bloquer d’autres applications et sites Web – par exemple YouTube et Facebook – sur la propriété de l’école. Les écoles individuelles peuvent demander à ce que ChatGPT soit débloqué, et le porte-parole a déclaré que le ministère de l’Éducation de la ville de New York “accueillerait” favorablement l’opportunité d’avoir une conversation avec OpenAI, la startup derrière ChatGPT, sur la façon dont l’outil pourrait être adapté à l’éducation.
Quant à OpenAI, lorsqu’il a été contacté pour commenter, un porte-parole de la société a déclaré qu’OpenAI développait des “atténuations” pour aider quiconque à repérer le texte généré par ChatGPT. C’est important. Alors que TechCrunch a récemment signalé qu’OpenAI expérimentait une technique de filigrane pour le texte généré par l’IA, c’est la première fois qu’OpenAI confirme qu’il travaille sur des outils spécifiquement pour identifier le texte provenant de ChatGPT.
“Nous avons rendu ChatGPT disponible en tant qu’aperçu de la recherche pour apprendre de l’utilisation dans le monde réel, ce qui, selon nous, est un élément essentiel du développement et du déploiement de systèmes d’IA performants et sûrs. Nous intégrons constamment les commentaires et les leçons apprises », a déclaré le porte-parole d’OpenAI. « Nous avons toujours appelé à la transparence autour de l’utilisation du texte généré par l’IA. Nos politiques exigent que les utilisateurs soient francs avec leur public lorsqu’ils utilisent notre API et nos outils créatifs… Nous sommes impatients de travailler avec les éducateurs sur des solutions utiles et d’autres moyens d’aider les enseignants et les étudiants à bénéficier de l’IA.
ChatGPT a une aptitude à répondre à des questions sur des sujets allant de la poésie au codage, mais l’un de ses plus gros défauts est sa capacité à donner parfois des réponses qui semblent convaincantes mais qui ne sont pas factuellement vraies. Cela a conduit le site de codage de questions-réponses Stack Overflow à interdire temporairement aux utilisateurs de partager du contenu généré par l’IA, affirmant que ChatGPT permettait aux utilisateurs d’inonder trop facilement la plate-forme de réponses douteuses. Plus récemment, la Conférence internationale sur l’apprentissage automatique, l’une des plus grandes conférences mondiales sur l’IA et l’apprentissage automatique, a annoncé l’interdiction des articles contenant du texte généré par ChatGPT et d’autres systèmes d’IA similaires par crainte de “conséquences imprévues”.
Dans l’éducation, le débat a largement tourné autour du potentiel de tricherie. Effectuez une recherche Google pour “ChatGPT pour rédiger des documents scolaires” et vous trouverez de nombreux exemples d’éducateurs, de journalistes et d’étudiants testant les eaux en utilisant ChatGPT pour effectuer des devoirs et des tests de rédaction standardisés. La chroniqueuse du Wall Street Journal, Joanna Stern, a utilisé ChatGPT pour rédiger un essai en anglais AP, tandis que la membre du personnel de Forbes, Emma Whitford, l’a exploité pour terminer deux essais universitaires en 20 minutes. S’adressant à The Guardian, le professeur de l’Arizona State University, Dan Gillmor, a rappelé comment il avait donné à ChatGPT l’un des devoirs qu’il donne généralement à ses étudiants et a constaté que l’essai de l’IA aurait mérité “une bonne note”.
Le plagiat est une autre préoccupation. Comme d’autres systèmes d’IA générant du texte, ChatGPT – qui est formé sur des données publiques, généralement collectées sans consentement – peut parfois régurgiter ces informations textuellement sans citer aucune source. Cela inclut des inexactitudes factuelles, comme évoqué précédemment, ainsi que des perspectives biaisées – y compris manifestement racistes et sexistes. OpenAI continue d’introduire des filtres et des techniques pour empêcher les générations de texte problématiques, mais de nouvelles solutions de contournement apparaissent chaque jour.
Malgré ces limites et ces problèmes, certains éducateurs voient un potentiel pédagogique dans ChatGPT et d’autres formes de technologies d’IA génératives. Dans un article récent pour le site Web de la Graduate School of Education de Stanford, Victor Lee, professeur agrégé d’éducation à Stanford, a noté que ChatGPT peut aider les étudiants à “penser d’une manière qu’ils ne font pas actuellement”, par exemple en les aidant à découvrir et à clarifier leurs idées. Les enseignants peuvent également bénéficier de ChatGPT, postule-t-il, en générant de nombreux exemples pour les étudiants d’un récit où le contenu de base reste le même mais le style, la syntaxe ou la grammaire diffèrent.
“ChatGPT peut [allow] aux élèves de lire, de réfléchir et de réviser plusieurs fois sans l’angoisse ou la frustration que de tels processus suscitent souvent, [while] les enseignants peuvent utiliser l’outil comme un moyen de générer de nombreux exemples et non-exemples d’une forme ou d’un genre », a déclaré Lee dans un communiqué. « Évidemment, les enseignants sont moins ravis que l’ordinateur fasse beaucoup de démarches pour les élèves. Et les élèves doivent encore apprendre à écrire. Mais de quelle manière et avec quels types d’écritures ? Un… effet secondaire de ce nouveau médicament est qu’il nous oblige tous à nous poser ces questions et probablement à apporter des changements substantiels aux objectifs et aux méthodes primordiaux de notre enseignement.
Dans tous les cas, la politique des écoles publiques de la ville de New York, qui semble être la première du genre dans le pays, forcera sûrement la conversation dans les districts scolaires ailleurs. À mesure que l’utilisation de la technologie se développe – ChatGPT comptait plus d’un million d’utilisateurs en décembre – des chercheurs indépendants et des entreprises ont commencé à piloter des outils pour détecter l’utilisation de texte généré par l’IA dans les soumissions d’étudiants. Certains éducateurs pourraient choisir de les adopter, tandis que d’autres, comme Lee, encouragent plutôt l’utilisation de ChatGPT comme outil d’aide à l’écriture.
