Entre el discurso tecnooptimista y la realidad del día a día, la inteligencia artificial está sacudiendo el sector de la formación. Pero, ¿qué ganamos realmente integrándola? En este artículo desgranamos los desafíos concretos a los que se enfrentan los profesionales de la formación, además de proponer un enfoque pragmático ante esta revolución.
Basta con entrar a LinkedIn para observar una auténtica avalancha de webinars sobre ChatGPT, cursos de «IA para formadores», promesas de automatización en el ámbito pedagógico… La inteligencia artificial parece ser la solución milagrosa para todos los retos del sector. Sin embargo, detrás de esta efervescencia tecnológica encontramos una realidad mucho más compleja que los formadores deben analizar con criterio.
Desmontando el mito de la IA como salvadora
Comencemos con una verdad que incomodará a algunos: según un reciente estudio del Departamento de Educación de Estados Unidos, siguen siendo escasas las pruebas empíricas sobre las repercusiones positivas de la IA generativa en el aprendizaje. La UNESCO va aún más lejos al señalar que no hay datos concluyentes que respalden que, gracias a la IA, mejora la adquisición de conocimientos.
Estas aseveraciones chocan con el discurso dominante. Tal como plantearon acertadamente Rudolph et al. en un artículo de 2025 para el Journal of Applied Learning & Teaching, persisten ocho mitos en torno a la IA en formación, entre los que destaca ese que nos habla de una tecnología con capacidad para convertir automáticamente la formación en más democrática, más igualitaria y más respetuosa con el medioambiente.
Para los organismos de formación y centros de formación profesional, el mensaje es claro: la IA no es una solución universal, sino una herramienta cuya eficacia depende de su integración racional en sistemas pedagógicos sólidos.
Las preguntas que todo formador debería plantearse
Frente a las herramientas de IA que abundan en el mercado, cabe hacerse tres preguntas fundamentales:
- ¿Quién diseña dichos sistemas, y bajo qué premisas pedagógicas? Muchas herramientas de IA están desarrolladas por ingenieros sin conocimientos técnicos en materia pedagógica, lo que les lleva a reproducir planteamientos académicos tradicionales que pueden ir en detrimento de la diversidad de los itinerarios formativos.
- ¿Con qué datos se entrenan estos sistemas? ¿Hasta qué punto es adecuada una IA entrenada principalmente con contenidos de universidades norteamericanas para formar, por ejemplo, a alumnos franceses en oficios manuales?
- ¿Podemos descartar que la herramienta no esté favoreciendo un aumento de la desigualdad? Un estudio publicado en 2024 demostró que determinadas herramientas de análisis predictivo subestiman de forma sistemática los logros de estudiantes pertenecientes a minorías, amplificando así la desigualdad que pretenden combatir.
Cinco principios para una IA al servicio de la formación
Más allá de las críticas, conviene reflexionar sobre cuál es la estrategia que permite aprovechar realmente la IA en el campo de la formación. A continuación enumeramos cinco principios concretos que cualquier organismo de formación puede aplicar.
1. Transparencia: el derecho a saber
Desde el punto de vista ético, es fundamental que el alumno sepa a ciencia cierta cuándo y cómo interviene la IA en su itinerario formativo.
Aplicación práctica: incluye una sección llamada «Uso de la IA» en tus materiales formativos en la que se explique claramente cómo se utiliza la inteligencia artificial.
2. Supervisión humana: el algoritmo nunca decide por sí solo
Como ya dijo el filósofo Shannon Vallor en 2024, la IA emplea modelos matemáticos para simular el razonamiento humano, pero no piensa realmente. En el terreno de la formación, esto significa que esta tecnología no puede tomar ninguna decisión importante sin validación humana a la hora de evaluar u orientar al alumnado.
Aplicación práctica: ayúdate de la IA para una valoración previa, que siempre deberá revisar y ajustar un formador que aporte matices y contexto.
3. Datos: menos es más
Los datos de los alumnos son sensibles y muy valiosos, y su recogida debe limitarse al mínimo necesario, además de llevarse a cabo con el consentimiento explícito de los interesados y un objetivo definido.
Aplicación práctica: audita tus herramientas de IA para identificar qué datos recopilan y por qué. Evita la recogida de datos que no sean imprescindibles.
4. Pensar en la diversidad para una inclusión real
Los sesgos de los algoritmos no son casualidad, sino la consecuencia de nuestros propios sesgos sociales. Para lograr una IA inclusiva hacen falta un diseño plural y pruebas con públicos diversos.
Aplicación práctica: prueba tus herramientas de IA con varios grupos divididos por edad, sexo, procedencia social, nivel inicial, etc. para detectar posibles sesgos en los resultados.
5. Evaluación crítica, más allá de los promedios
Las repercusiones de una herramienta de IA no deben juzgarse exclusivamente por resultados promedios, sino por sus efectos en los alumnos más desfavorecidos.
Aplicación práctica: analiza los resultados de aquellos de tus sistemas que incluyen IA clasificando los datos por tipo de alumno para detectar posibles casos de discriminación.
Formación en espíritu crítico algorítmico
Aparte del uso en sí de la IA, los organismos de formación tienen la responsabilidad de enseñar al alumnado a entender estas herramientas, a emplearlas con criterio y a detectar dónde están sus límites.
En este sentido, han surgido iniciativas como la de la Universidad de Orleans, que adoptó, en marzo de 2024, una guía pedagógica sobre el uso de la IA con el objetivo de «concienciar a la comunidad universitaria para su uso consciente, crítico y ético».
En el caso de los organismos de formación profesional, esto podría traducirse en:
- una serie de módulos transversales sobre los usos profesionales de la IA;
- talleres prácticos para la evaluación crítica de respuestas generadas por IA;
- ejercicios de comparación entre producción humana y algorítmica.
Hacia una gobernanza ética de la IA en formación
Los organismos de formación no pueden limitarse a redactar una guía; además, deberán activar mecanismos de gobernanza concretos como, por ejemplo:
- la creación de un comité ético que incluya a formadores y alumnos;
- auditorías periódicas de herramientas de IA utilizadas en los planes formativos;
- cláusulas éticas en los contratos con proveedores de servicios de IA;
- mecanismos de notificación para los alumnos en caso de decisiones cuestionables del algoritmo.
Algunas empresas ya están empezando a estructurar políticas internas en este sentido, y los organismos de formación pueden inspirarse en ellas para diseñar una gobernanza adaptada a sus necesidades concretas.
Replantearse la pedagogía más allá del plano técnico
La llegada de la IA a la formación no es una cuestión de herramientas. Más bien, nos invita a replantearnos a fondo nuestro enfoque pedagógico y a preguntarnos qué significa aprender en la era de las máquinas que simulan ser inteligentes y qué competencias son fundamentales cuando la información está disponible a tan solo un clic.
La IA puede asentar un enfoque unificado e industrial de la formación, o bien impulsar una estrategia más personalizada y humana. De los profesionales de la formación depende elegir estratégicamente.
La clave no está en formar a usuarios que sepan usar eficazmente herramientas automáticas, sino a profesionales capaces de pensar por sí mismos, de evaluar críticamente la información que genera el algoritmo y de utilizar estas tecnologías como auténticos motores de emancipación.
La tecnología no emancipa por sí misma; es el uso que nosotros le damos, los marcos que le imponemos y los valores que defendemos los que puede convertirla en impulsora del progreso.
Más allá del hype tecnológico
La IA no debe convertirse en una cortina de humo que oculte cuestiones fundamentales en un sector como el de la formación que ya se enfrenta a muy diversos desafíos normativos, económicos o pedagógicos. En cambio, sí puede ser un potente indicador de nuestras elecciones implícitas como docentes.
Para los organismos de formación y profesionales del sector, no es el momento de la tecnofobia ni de la adopción a ciegas, sino del desarrollo de una tercera vía: la de la integración racional, ética y centrada en el factor humano.
En el ámbito de la formación digital no basta con innovar; también hace falta transformar, y en esa transformación meditada está el futuro del sector.
Bibliografía
- Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? In Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (pp. 610–623).
- Crawford, K. (2021). Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press.
- Gándara, D., Anahideh, H., Ison, M., & Picchiarini, L. (2024). Inside the black box: Detecting and mitigating algorithmic bias across racialized groups in college student-success prediction. AERA Open, 10(1), 1–15.
- Lindgren, S. (2023). Critical Studies of AI: Power, Politics, and Ethics. Oxford University Press.
- Popenici, S. (2023). Artificial Intelligence and Learning Futures: Critical Narratives of Technology and Imagination in Higher Education. Routledge.
- Rudolph, J., Ismail, F., Tan, S., & Seah, P. (2025). AI snake oil: How generative AI myths distort reality. Journal of Applied Learning & Teaching, 8(1), 1–46.
- Said, E. (1994). Representations of the Intellectual. The 1993 Reith Lectures. Vintage Books.
- U.S. Department of Education (2023). Artificial Intelligence and the Future of Teaching and Learning: Insights and Recommendations.
- Vallor, S. (2024). The AI Mirror: How to Reclaim Our Humanity in an Age of Machine Thinking. Oxford University Press.
- Université de Lille (2025). Charte des bonnes pratiques sur l’usage de l’IA générative dans les travaux pédagogiques. AEF Info.
- Université d’Orléans (2024). Charte pédagogique et informative sur l’IA. AEF Info.
- Gouvernement français (2025). Charte nationale sur l’IA à l’école annoncée par Élisabeth Borne. Le Figaro.
- Éditions Législatives (2024). L’université de l’ANDRH : Les entreprises se dotent de chartes éthiques sur l’IA. Éditions Législatives.
