La inteligencia artificial está revolucionando la creación de contenidos pedagógicos, y promete ahorro de tiempo y una mayor personalización. Sin embargo, y pese a lo que ofrece, debemos evitar caer en la trampa de las alucinaciones de la IA.
En este artículo reflexionamos sobre cómo pueden los formadores y organismos aprovechar esta tecnología y, al mismo tiempo, garantizar una formación fiable.
En el ámbito de la formación, el uso de la inteligencia artificial para generar contenidos pedagógicos implica un riesgo: el de las alucinaciones. Este fenómeno se produce cuando la IA genera información incorrecta que presenta como hechos demostrados.
Por ejemplo, un sistema de generación de contenido con IA podría crear un módulo de e-learning sobre la propia historia de la inteligencia artificial y afirmar, erróneamente, que el primer chatbot data de 1985, pese a que ELIZA llevaba existiendo desde los años 60 del siglo XX. Si no se detecta, un dato como erróneo como este puede confundir al alumnado.
Los riesgos de las alucinaciones en formación
En el ámbito de la formación, las alucinaciones de la IA pueden implicar:
- la transmisión de conceptos erróneos al alumnado;
- la pérdida de credibilidad del organismo de formación;
- una inadecuada asimilación de conceptos.
¿A qué se deben las alucinaciones?
Los modelos de IA generativa como ChatGPT, Claude.ai, Mistral o Perplexity no comprenden el mundo como lo hace una persona, sino que funcionan con una lógica probabilística consistente en predecir la continuación más plausible de un texto en función de los datos con los que han sido entrenados.
Estas alucinaciones pueden estar causadas por diversos factores:
- Datos sesgados o incompletos: si la IA se entrena a partir de fuentes erróneas, reproducirá los sesgos de estas. A Tay, la IA lanzada por Microsoft, le bastó con un día para emitir comentarios racistas y misóginos, o para poner en duda determinados hechos históricos.
- Sobreajuste: en ocasiones, el modelo reutiliza datos muy específicos sin comprobar su exactitud, como cuando el corpus de datos que se analiza es excesivamente reducido.
- Falta de comprobación de los datos: la IA no tiene la capacidad intrínseca de verificar la información y puede, por ejemplo, recurrir a neuromitos no comprobados pero sí muy extendidos en el sector educativo únicamente por la frecuencia con la que aparecen.
- Limitada comprensión contextual: ciertas preguntas complejas o ambiguas pueden llevar a inferencias incorrectas. Además, la IA tenderá a inventarse información para «agradar», por lo que puede crear fuentes o datos erróneos.
Estrategias para protegerse de las alucinaciones
Ante estos riesgos, quienes diseñan la formación deben adoptar métodos rigurosos para velar por la calidad de los contenidos.
-
Contrastar las fuentes de información
La IA puede servir como punto de partida, pero todos los datos clave deben contrastarse con fuentes académicas, institucionales o expertas de prestigio. Herramientas como Google Scholar, Crossref o las bases de datos profesionales son útiles para comprobar la veracidad de la información.
-
Incorporar la validación humana
La IA no debe considerarse una fuente única e infalible de generación de contenidos. Estos tendrán que ser revisados por un experto o formador cualificado antes de difundirse.
-
Utilizar herramientas de IA específicas
Algunos modelos de IA están diseñados para verificar datos o evitar la desinformación. Es el caso de los sistemas de fact-checking automatizados como Vera.AI3, que se incluyen en determinados programas educativos. Estas herramientas, sin embargo, no están libres de errores.
-
Priorizar una estrategia híbrida
En lugar de depender exclusivamente de una IA generativa para elaborar la totalidad del contenido, es preferible adoptar un método híbrido en el que la IA ayude a la creación en vez de sustituirla por completo.
Esto puede concretarse de las siguientes formas:
- Utilizar la IA para generar borradores o primeras versiones del contenido.
- Completar dichos borradores con contenido redactado por expertos humanos.
- Integrar fuentes pedagógicas contrastadas y referencias bibliográficas fiables.
- Combinar diferentes herramientas de IA (generadores de texto, herramientas de análisis de datos, herramientas de síntesis) en lugar de confiar en un único sistema.
Esta estrategia permite beneficiarse de la eficacia de la IA al tiempo que se mantiene un control humano de la exactitud y la calidad pedagógica del contenido final.
-
Hacer pruebas y recabar feedback
Antes de poner en marcha una formación generada por IA, es importante probarla con un grupo de alumnos y formadores de cara a detectar sus posibles incoherencias o errores.
Equilibrar innovación y fiabilidad
La inteligencia artificial ofrece magníficas oportunidades para transformar la creación de contenidos formativos, pero no debe utilizarse indiscriminadamente. Protegerse frente a sus alucinaciones es clave para garantizar una formación de calidad.
Adoptar un enfoque crítico y riguroso permite a los formadores y creadores de contenido educativo sacar el máximo partido a la IA y, al mismo tiempo, evitar caer en sus trampas. La IA es una ayuda para las competencias humanas, pero no las sustituye.
Tanto en el ámbito de la formación como en otros, la prudencia y el espíritu crítico siguen siendo los mejores aliados de una formación eficaz y fiable. Lo que probablemente veremos en el futuro es una colaboración inteligente entre seres humanos e IA en la que ambos complementen sus fortalezas.
En el ámbito de la formación digital no basta con innovar; también hace falta transformar con criterio.
