Edward Tian, un estudiante universitario de 22 años de la Universidad de Princeton, en Estados Unidos, desarrolló una aplicación que puede detectar si un texto está escrito por ChatGPT, el chatbot impulsado por inteligencia artificial (IA) de moda en Internet y las redes sociales.
Es la compañía OpenAI, la misma detrás de programas de IA como DALL-E y confundada por el CEO de Tesla, SpaceX y Twitter, Elon Musk, la que creó ChatGPT, que básicamente es un bot de redacción de textos y que ha despertado temor en la comunidad estudiantil global por plagios.
Tian llamó a su app GPTZero en unas vacaciones de verano y tuvo 30 mil visitas en la semana de su lanzamiento. De acuerdo con un informe publicado en el sitio web de The Guardian, el joven afirmó que el objetivo era abordar el uso de la inteligencia artificial para evadir el software antiplagio para hacer trampa en los exámenes.
“Pasé Año Nuevo creando GPTZero, una aplicación que puede detectar rápida y eficientemente si un ensayo es ChatGPT o escrito por humanos”, tuiteó Tian, viralizándose en la red social y agregando un ejemplo de cómo funciona la plataforma.
here’s a quick demo with john mcphee’s «frame of reference» pic.twitter.com/WphxfxxFdr
— Edward Tian (@edward_the6) January 3, 2023
¿Cómo funciona GPTZero?
GPTZero está alojada en Streamlit, dándole al estudiante capacidades de alojamiento y memoria para mantenerse al día con el tráifico web.
Para determinar si el texto fue escrito por inteligencia artificial, la aplicación prueba un cálculo de “perplejidad”, que mide la complejidad de un texto, y “explosividad”, que compara la variación de las oraciones. Cuanto más familiar sea el texto para el bot, que está entrenado con datos similares, es más probable que lo genere la IA.
A new app — built by @edward_the6 ’23 — can detect whether your essay was written by ChatGPT, as researchers aim to combat AI plagiarism. ⬇️ (via @TechInsider) https://t.co/Kq4SUO6ACe
— Princeton University (@Princeton) January 6, 2023
Tian les dijo a los suscriptores que el modelo más nuevo usaba los mismos principios, pero con una capacidad mejorada para detectar inteligencia artificial en texto: “Al probar el nuevo modelo en un conjunto de datos de artículos de noticias de la BBC y artículos generados por IA a partir de las mismas indicaciones de los titulares, el modelo mejorado tiene una tasa de falsos positivos de 2 %”.
“En los próximos meses, estaré completamente enfocado en construir GPTZero, mejorar las capacidades del modelo y escalar completamente la aplicación”.
