La inteligencia artificial (IA) está adquiriendo cada vez más influencia en la educación STEM. Las herramientas de IA ahora pueden soportar puntuación automatizada, feedback personalizado, tutorías y análisis de aprendizaje. Sin embargo, muchos sistemas avanzados de IA, incluidos los modelos de aprendizaje profundo y los grandes modelos de lenguaje (LLM), funcionan como "cajas negras". Pueden proporcionar puntuaciones o retroalimentación, pero es difícil para educadores, estudiantes e investigadores entender cómo se toman las decisiones generadas por la IA.

En un libro de acceso abierto publicado recientemente, Inteligencia Artificial para la Investigación en Educación STEM, se dedica un capítulo titulado "Explicable IA en la Investigación Educativa STEM" a este tema. Examina cómo los sistemas de IA pueden ser más transparentes, interpretables y útiles para la educación STEM, introduciendo enfoques clave de IA explicables y discutiendo cómo pueden apoyar la confianza, la visión diagnóstica, la toma de decisiones instruccionales y la integración responsable de IA en contextos de aprendizaje STEM.

La IA explicable, a menudo llamada XAI, se refiere a métodos y principios que ayudan a las personas a comprender, confiar y potencialmente controlar el razonamiento detrás de las predicciones de un modelo de IA. En educación, la explicabilidad no es solo una cuestión técnica, sino también pedagógica y ética.

Cuando se utiliza IA para la puntuación o la generación de retroalimentación, los educadores necesitan saber si el sistema se centra en la evidencia significativa del aprendizaje. Los estudiantes también se benefician cuando la retroalimentación de la IA les ayuda a entender por qué una respuesta es fuerte, incompleta o inexacta. Los investigadores necesitan explicación para evaluar si los modelos de IA se alinean con las teorías del aprendizaje, los marcos de evaluación y las expectativas disciplinares.

Algunos modelos de IA son más fáciles de entender por diseño, como los modelos lineales y basados en árboles. Un modelo lineal puede ayudar a mostrar cómo un factor, como el tiempo de estudio o el rendimiento previo, está asociado con un resultado predicho. Un modelo basado en árboles puede mostrar una secuencia de reglas de decisión que conducen a un resultado. Estos modelos hacen visible la lógica de la predicción por IA.

Otros métodos están diseñados para explicar sistemas de IA más complejos. Un enfoque utiliza el razonamiento "qué pasaría si", también conocido como explicación contrafactual, para convertir una predicción en guía. Por ejemplo, una herramienta de IA podría mostrar cómo la respuesta de un estudiante podría mejorar si añadiera una idea científica clave o corrigiera un malentendido. Este tipo de explicación puede convertir una puntuación de IA en una retroalimentación útil.

Otro enfoque ayuda a identificar qué partes del trabajo de un estudiante importaban más a la IA. Por ejemplo, en la puntuación automatizada, la IA explicable puede ayudar a mostrar si el sistema reconoció ideas importantes como la fotosíntesis o la conversión de energía en las respuestas de los estudiantes. Esto ayuda a los profesores a determinar si la IA está prestando atención y detectando contenido disciplinario significativo.

ChatGPT y otros LLMs plantean otro tema importante. Como estas herramientas responden a prompts escritos en lenguaje cotidiano, la forma en que los usuarios hacen preguntas importa. Prompts claros, ejemplos relevantes, información de fondo y razonamientos paso a paso pueden hacer que las interacciones con la IA sean más visibles y fáciles de refinar. Estrategias como ejemplos en contexto, aumentos de conocimiento y incitaciones en cadena de pensamiento pueden ayudar a guiar a los LLMs hacia respuestas más interpretables y útiles para la enseñanza y el aprendizaje.

En general, un mensaje central es que la IA en la educación STEM no debe juzgarse solo por la precisión. Una puntuación, recomendación o mensaje de feedback cobra más valor cuando la gente entiende la razón detrás de él. XAI puede ayudar a conectar los resultados del modelo con los tipos de evidencia que valoran a los educadores, como el razonamiento estudiantil, los malentendidos, la comprensión disciplinaria y el progreso a lo largo del tiempo.

A medida que la IA continúa evolucionando, su papel en la educación STEM requerirá una colaboración continua entre investigadores, educadores, científicos del aprendizaje y expertos en evaluación para garantizar que las herramientas de IA sigan centrada en el ser humano. Aunque se considera una transformación dentro del sistema educativo, su éxito dependerá de lo bien que se implemente, siendo de extrema importancia que los educadores sigan siendo el centro de las decisiones sobre cómo se utiliza la IA, qué pruebas importan y cómo los conocimientos generados por la IA deben informar la enseñanza y el aprendizaje. En general, si se utiliza de forma responsable, la IA puede ser una herramienta poderosa para mejorar la retroalimentación, apoyar la evaluación, profundizar la comprensión y preparar a los estudiantes para su futuro. La IA explicable es una parte importante para que ese futuro sea fiable y esté alineado con el aprendizaje humano.