La UNED elabora una guía para advertir sobre las 'alucinaciones' de la Inteligencia Artificial

La UNED ha elaborado dos guías para orientar a su profesorado y alumnado sobre cómo utilizar la inteligencia artificial generativa (IAG) de forma adecuada y responsable. En ellas, advierte a los estudiantes de los posibles errores o invenciones que pueden generar estas herramientas y les prohíbe su uso en las evaluaciones y los trabajos finales, a menos que el docente lo autorice.

La UNED es una de las universidades pioneras en España en crear este tipo de documentos y ya publicó en noviembre una guía de IA para la docencia y el aprendizaje. Estas nuevas guías ofrecen consejos específicos y ejemplos prácticos de cómo aprovechar al máximo las herramientas de IAG de texto, según explica el vicerrector adjunto de Tecnologías Educativas de la UNED, Sergio Martín. Los estudiantes de la UNED pueden emplear la IAG durante su formación, pero no en las pruebas ni en los trabajos finales, salvo indicación contraria del profesor.

ChatGPT tiende a 'inventarse cosas'

"Además, herramientas como ChatGPT tienden a inventarse hechos. Por ejemplo, si le pides que te haga un estado del arte sobre un tema en concreto es muy probable que se invente muchas de las referencias, aunque aparentemente parezcan reales", recalca la guía.

Por eso, la guía indica que “solo debes usarlas para ayudarte con tareas sobre las que tú tengas el suficiente conocimiento para discernir si la respuesta es correcta o no”.

La inteligencia artificial puede ser de ayuda para elaborar un primer borrador sobre un tema, pero la universidad recuerda que puede inventar nombres, eventos o referencias, lo que se llama “alucinaciones”. También puede generar información errónea, sesgada o desfasada y, en ningún caso, es una fuente original de información, sino que copia información de otras fuentes que no cita.

Guía para el profesorado

La guía para el profesorado, por otro lado, expone que la IAG puede ser un complemento y una ayuda para el docente, por ejemplo para crear nuevos materiales didácticos, automatizar algunas tareas e implementar nuevas estrategias pedagógicas.

Actualmente, no hay ninguna herramienta que funcione para detectar el uso de inteligencia artificial generativa. “Existen pero dan falsos positivos y falsos negativos, es una moneda al aire, no son sistemas fiables”, según el vicerrector adjunto.

Síguenos en nuestro canal de WhatsApp y conoce toda la actualidad al momento.