GPTZero

GPTZero

Informations

Écrit en	Python
Environnement	Informatique nuagique
Type	Détection de contenu généré par intelligence artificielle
Site web	https://gptzero.me/

modifier - modifier le code - voir Wikidata (aide)

GPTZero est un logiciel de détection d'intelligence artificielle développé pour identifier les textes générés artificiellement, tels que ceux produits par de grands modèles de langage^{[1],[2],[3],[4]}.

Bien que GPTZero soit salué pour ses efforts visant à prévenir la malhonnêteté académique, de nombreux médias critiquent le taux de faux positifs de l'outil, qui peut être particulièrement néfaste dans les milieux universitaires^[5].

GPTZero est développé par Edward Tian, un étudiant de premier cycle de l'Université de Princeton, et lancé en ligne en janvier 2023 en réponse aux préoccupations concernant l'utilisation générée par l'IA dans le plagiat académique^[6],[7]. GPTZero déclare en mai 2023 avoir levé plus de 3,5 millions de dollars de financement de démarrage^[8],[9].

Au cours de la première semaine de sa sortie, GPTZero connait 30 000 utilisations, ce qui a conduit à un crash. Elle est soutenue par la société d'applications Web Streamlit, qui a alloué davantage de ressources serveur en réponse^[10]. En juillet 2024, GPTZero compte 4 millions d'utilisateurs, contre 1 million un an plus tôt^[11].

À l'été 2024, GPTZero lève 10 millions de dollars lors d'une levé de fond de série A^[12].

En septembre 2024, GPTZero a annoncé un logiciel de suivi de paternité qui permet de « compiler et de partager des données sur leur processus d'écriture telles que leur historique de copier/coller, le nombre d'éditeurs dont ils ont fait appel et le temps d'édition », dans le but de « s'éloigner d'un paradigme du tout ou rien autour de l'écriture de l'IA vers un paradigme plus nuancé^[12]. »

GPTZero utilise des qualités qu'il appelle perplexité et sporadicité pour tenter de déterminer si un passage a été écrit par une IA^[13]. Selon l'entreprise, la perplexité réside dans le caractère aléatoire du texte de la phrase et dans le fait que la manière dont la phrase est construite soit inhabituelle ou « surprenante » pour l'application. Elle s'appuie sur des modèles linguistiques, et plus il y a de modèles, plus il y a de chances qu'une personne n'ait pas écrit le texte^[14]. En revanche, la sporadicité compare les phrases entre elles, déterminant leur similarité. Le texte humain est plus discontinu, ce qui signifie que les humains ont tendance à écrire avec plus de variations de phrases que l'IA^[7].

La communauté universitaire a tenté d'utiliser GPTZero pour répondre aux préoccupations concernant le contenu généré par l'IA à des fins de plagiat^{[15],[14],[13]}. Les établissements d'enseignement, dont l'Université de Princeton, ont discuté de l'utilisation de GPTZero pour lutter contre le contenu généré par l'IA dans les milieux universitaires, avec des opinions mitigées^[7],[16]. En octobre 2023, GPTZero s'est associé à la Fédération américaine des enseignants^[17].

D'ici 2024, Tian signale que GPTZero « a également été largement adopté par les responsables du recrutement, avec le recrutement [et] l'analyse des lettres de motivation »^[12].

Dans un article de mars 2023 intitulé « Le texte généré par l'IA peut-il être détecté de manière fiable ? », les informaticiens Vinu Sankar Sadasivan, Aounon Kumar, Sriram Balasubramanian, Wenxiao Wang et Soheil Feizi de l'Université du Maryland démontrent empiriquement et théoriquement que plusieurs détecteurs de texte IA ne sont pas fiables dans des scénarios pratiques^[18],[19].

Le site Internet Futurism a testé l'outil et a déclaré que même si les « résultats sont impressionnants », compte tenu de son taux d'erreur, les enseignants qui s'appuient sur l'outil finiraient par « accuser à tort près de 20 % des "étudiants innocents" de mauvaise conduite académique »^[20].

Le Washington Post a noté en août 2023 que GPTZero souffre de faux positifs, soulignant que « même un faible taux d'erreur de « faux positif » signifie que certains étudiants pourraient être accusés à tort de "mauvaise conduite académique" »^[5].

Le site d'information Ars Technica a commenté que les humains peuvent toujours écrire des phrases de manière très régulière, ce qui conduit à des faux positifs. L'auteur, Benj Edwards, poursuit en affirmant que le score de perplexité ne s'intéresse qu'à ce qui est « surprenant » pour l'IA, ce qui conduit à des cas où des textes très courants, tels que la Constitution américaine, sont étiquetés comme probablement générés par l'IA^[21].

• (en) Cet article est partiellement ou en totalité issu de l’article de Wikipédia en anglais intitulé « GPTZero » (voir la liste des auteurs).

• Détection de contenu généré par intelligence artificielle
• Éthique de l'intelligence artificielle
• Traitement automatique des langues
• ChatGPT
• Génération automatique de texte
• Test de Turing

• Site officiel

• Portail de l’intelligence artificielle
• Portail de l’informatique
• Portail de la robotique
• Portail de la linguistique