Este trabajo lo ha escrito un robot: cómo identificar redacciones hechas con ChatGPT

A partir de noviembre de 2022, con la aparición de ChatGPT, los textos generados con IA se extendieron a muchos ámbitos de la sociedad. Como consecuencia de ello, el sector educativo fue uno de los primeros en cambiar por completo su forma de evaluación.

Muchos profesores, al percatarse de que los alumnos presentaban redacciones con palabras inusuales para su nivel educativo, decidieron cambiar los deberes. Algunos de ellos optaron por continuar pidiendo trabajos y que, en caso de usar IA generativa, los alumnos escribieran también las preguntas que le habían hecho. Otros suprimieron directamente los deberes escritos y decidieron sustituirlos por otras actividades, como presentaciones orales o exámenes en el aula. Pero, ¿hay alguna forma fiable de detectar los textos generados con ChatGPT?...

Ya existe la tecnología de marca de agua

En agosto, ‘The Wall Street Journal’ publicó un artículo en el que desvelaba que OpenAI ya tiene desde hace un tiempo una herramienta capaz de ‘marcar’ los textos generados con IA con gran fiabilidad. Según la cabecera, dentro de la compañía estarían valorando el coste que supondría activarla, ya que muchos de sus usuarios no quieren ser descubiertos cuando usan la IA. Esta marca de agua crearía un patrón de selección de palabras que no afectaría a la calidad, pero que permitiría descubrir que ha sido generado con IA pasándolo por un detector.

De hecho, las compañías de IA generativa podrían ser las más interesadas en activarlo, ya que un estudio publicado recientemente en la revista ‘Nature’, alerta de que entrenar a la IA con datos sintéticos (generados por un modelo anterior),podría hacerla colapsar.

Detectar un texto generado con IA a simple vista

Las personas que están en contacto con estas herramientas y leen sus textos a diario, muchas veces son capaces de ver ciertos patrones o expresiones que se repiten con más frecuencia. Además, si el texto es gramaticalmente perfecto y está escrito de forma monótona (con falta de ‘alma’), también puede despertar sospechas.

El problema es que, algunas veces, las personas que usan esta tecnología reescriben parte del texto para no ser descubiertas. En este caso, la labor de detección se complica un poco más. Además, a medida que se actualizan los modelos de lenguaje, es lógico que sea más difícil diferenciar los textos creados con IA, de la misma forma que las fotografías creadas con estas tecnologías son cada vez más precisas.

Aplicaciones para detectar textos

Lo mismo ocurre con los detectores online, que pueden fallar. Al final, se han entrenado con muchos textos generados con IA y otros humanos. Pero, en el momento en el que aparezca un nuevo modelo de lenguaje, es probable que el detector quede obsoleto y deba volverse a actualizar. Esto convierte la detección dela IA en una carrera continua.

Estas son algunas de las herramientas que permiten analizar un texto y proponen qué tanto porciento podría estar generado con IA:

Probando con los dos primeros párrafos de este artículo, GPTZero detectó un 19%de probabilidades de que hubiera sido generado con IA, mientras que Writer.com concluyó que había sido generado 100% por un humano. QuillBot, por su parte, resuelve que podría haber sido escrito por un robot. Ahora le toca a usted, lector humano, dictar el veredicto final.