Cet article a été mis à jour pour la dernière fois le juillet 26, 2023
Table des matières
ChatGPT Maker met l’outil de reconnaissance hors ligne sans précision
Introduction
OpenAI, le développeur de ChatGPT, a décidé de retirer un outil de reconnaissance lancé récemment en raison de son manque de précision. L’outil a été conçu pour aider les enseignants à identifier les textes écrits par l’intelligence artificielle (IA). Cependant, OpenAI a reconnu les failles du système et s’est engagé à travailler sur les commentaires des utilisateurs pour développer une solution plus fiable à l’avenir.
Le défi de reconnaître le contenu généré par l’IA
La décision d’OpenAI souligne la difficulté d’établir un système fiable de reconnaissance du contenu généré par l’IA, même pour ses créateurs. Lors du lancement de l’outil en janvier, l’entreprise reconnaissait déjà ses imperfections. Il a identifié par erreur des textes écrits par des humains comme du contenu généré par l’IA dans 9 % des cas, ce qui indique la nécessité d’améliorations. OpenAI a noté que la fiabilité augmentait lors de l’analyse de textes plus longs.
Le but de l’outil dans l’éducation
L’outil de reconnaissance était principalement destiné à aider les éducateurs qui sont confrontés au défi d’identifier l’utilisation par les élèves de générateurs de texte, tels que ChatGPT, pour les devoirs. Les enseignants ont exprimé des inquiétudes à ce sujet plus tôt cette année, déclarant qu’ils étaient incapables de faire la distinction entre les textes écrits par les élèves et ceux générés par les ordinateurs. De nombreux étudiants ont déclaré avoir évité la détection lors de l’utilisation de ChatGPT.
Plans de développement futurs
Malgré les lacunes de l’outil, OpenAI reste déterminé à développer un système fiable qui permet aux utilisateurs de vérifier l’authenticité du contenu texte, audio ou vidéo. La société prévoit d’itérer sur les commentaires des utilisateurs et d’apporter des améliorations significatives pour assurer une reconnaissance précise du contenu généré par l’IA à l’avenir.
Conclusion
La décision d’OpenAI de mettre son outil de reconnaissance hors ligne démontre les défis liés à la création d’un système fiable pour distinguer le contenu généré par l’IA. La reconnaissance par l’entreprise de l’inexactitude de l’outil et de son engagement à répondre aux commentaires des utilisateurs reflète son engagement à développer des solutions qui renforcent la confiance dans le texte généré par l’IA. En itérant continuellement sur sa technologie, OpenAI vise à fournir aux utilisateurs, en particulier aux enseignants, des outils fiables pour identifier les contenus authentiques et gérer efficacement l’influence croissante de l’IA dans divers domaines.
ChatGPT
Soyez le premier à commenter