Alucinaciones de ChatGPT: una evaluación crítica para la educación universitaria

Enfoque

En el presente trabajo se presentan los resultados de un ejercicio llevado a cabo con estudiantes de primer curso del Grado en Marketing, orientado a analizar las llamadas “alucinaciones” o errores generados por el modelo de inteligencia artificial ChatGPT y su potencial como recurso didáctico en la educación superior. Este ejercicio, organizado en dos etapas, persigue un doble objetivo: fomentar la reflexión del estudiante sobre el alcance de su propio conocimiento y desarrollar una capacidad crítica hacia las respuestas generadas por herramientas de IA, subrayando la importancia de evaluar su fiabilidad en el ámbito académico.

En el contexto educativo actual, las herramientas de inteligencia artificial han ganado presencia en diversas disciplinas, incluyendo los estudios de marketing. Modelos como ChatGPT representan una innovación tecnológica con potencial para apoyar el aprendizaje autónomo y mejorar la accesibilidad a la información. No obstante, el fenómeno de las “alucinaciones” de la IA, es decir, la generación de respuestas incorrectas o imprecisas que pueden ser presentadas de manera convincente, plantea la necesidad de analizar y comprender sus limitaciones. Este estudio explora la percepción de los estudiantes sobre el valor de ChatGPT y su fiabilidad, a través de un ejercicio de reflexión y análisis crítico sobre sus respuestas.

El ejercicio se desarrolló con una muestra de 45 estudiantes de primer curso de Marketing, dividiendo la actividad en dos etapas distintas:

 Reflexión inicial: En esta primera fase, los estudiantes realizaron una introspección sobre los conocimientos específicos que consideraban poseer en contraste con lo que creían que ChatGPT podría desconocer o presentar con inexactitud. Este paso busca que el estudiante evalúe su conocimiento de manera consciente, estableciendo una base de comparación entre el contenido que domina y el que la IA genera. La reflexión se focalizó en temas de marketing, casos de estudio específicos o conocimientos locales que los estudiantes dominan de manera práctica o teórica.

 Consulta y análisis de respuestas: En la segunda etapa, los estudiantes formularon preguntas específicas a ChatGPT, y en los casos en que el modelo generó respuestas incorrectas o parciales, se les pidió que solicitaran una explicación al modelo sobre la lógica o proceso de razonamiento que lo había llevado a esas conclusiones erróneas. Esta interacción entre el estudiante y la IA tenía el propósito de exponer el proceso que subyace en los errores de ChatGPT, promoviendo en el estudiante una reflexión crítica sobre la fiabilidad de las herramientas de IA.

Los resultados de este ejercicio reflejan una serie de aprendizajes y reflexiones por parte de los estudiantes sobre el uso de la inteligencia artificial en la educación y, en particular, en el ámbito de los estudios de marketing:

 Conciencia del conocimiento propio: Al reflexionar sobre los temas que dominan y compararlos con la información proporcionada por ChatGPT, los estudiantes expresaron una mayor conciencia sobre el valor de su propio conocimiento. La actividad fomentó que los estudiantes identificaran sus fortalezas y lagunas en temas específicos, percibiendo el valor añadido que pueden aportar en situaciones que requieren un juicio contextual o conocimientos prácticos que la IA no necesariamente posee.

 Identificación y análisis de errores en ChatGPT: En la segunda fase, los estudiantes reportaron un amplio rango de respuestas erróneas o imprecisas de ChatGPT en temas de marketing, en los que las alucinaciones tomaron formas variadas, desde información incompleta o inexacta hasta conclusiones sin base empírica o lógica en el contexto. Al indagar sobre la lógica detrás de los errores, los estudiantes observaron que el modelo tiende a generar conclusiones basadas en patrones probabilísticos, lo que a veces conduce a errores. Este proceso ayudó a los estudiantes a comprender las limitaciones de la IA y las situaciones en las que pueden confiar en ella para obtener respuestas preliminares, pero no como fuente definitiva de información académica.

 Valoración crítica de la inteligencia artificial en el contexto educativo: A través de la práctica de consultar y analizar las respuestas generadas por ChatGPT, los estudiantes reconocieron el modelo como una herramienta de apoyo, útil para complementar el aprendizaje autónomo y en la búsqueda de ideas iniciales. Sin embargo, también percibieron la necesidad de desarrollar una capacidad crítica para evaluar la fiabilidad y el rigor de la información que la IA proporciona. Este ejercicio ha promovido en los estudiantes la noción de que ChatGPT puede ser una valiosa fuente de ideas y referencias iniciales, pero no un sustituto de la investigación académica o del conocimiento experto.

La implementación de esta actividad generó varias conclusiones sobre el papel de la inteligencia artificial en el aprendizaje y sus posibles aplicaciones en el ámbito educativo. Los resultados indican que las herramientas de IA como ChatGPT pueden desempeñar un papel positivo en el proceso de aprendizaje, siempre y cuando los estudiantes sean conscientes de sus limitaciones y desarrollen la capacidad de discernir entre la información confiable y los posibles errores o alucinaciones generadas por el modelo.

El proceso de reflexionar sobre el propio conocimiento resulta fundamental en la educación universitaria, pues permite al estudiante adquirir un sentido de autoconfianza y responsabilidad respecto a su aprendizaje. En el contexto de la inteligencia artificial, esta reflexión se vuelve aún más relevante, ya que promueve una interacción crítica y fundamentada con la tecnología, evitando una dependencia ciega de la información que esta genera. Además, la experiencia permite a los estudiantes cuestionar el papel de la IA en la sociedad actual, en la cual el acceso a la información es inmediato, pero su veracidad y rigor no siempre están garantizados.

Además, el fenómeno de las alucinaciones de IA plantea una oportunidad para que los educadores promuevan un aprendizaje más profundo y crítico, donde los estudiantes no solo consuman información, sino que también la analicen, verifiquen y comprendan sus limitaciones. A medida que la inteligencia artificial sigue evolucionando y desempeña un rol más amplio en la educación superior, será fundamental que los estudiantes desarrollen habilidades que les permitan utilizarla de manera efectiva, como complemento, pero sin renunciar a la rigurosidad académica ni a la verificación y validación del conocimiento.