Salvaguardar lo humano desde las aulas: educación y gobernanza digital en tiempos de IA

Por: Dr. Luis Arriaga Valenzuela, S.J.

I. Una encíclica que habla de educación

Cuando el papa León XIV publicó el 25 de mayo de 2026 la encíclica Magnifica Humanitas, eligió el 135.° aniversario de laRerum Novarum, escrita por León XIII, como fecha de culminación del documento apostólico. El gesto constituye una declaración de continuidad profética. Así como León XIII tomó partido ante la cuestión obrera cuando el magisterio eclesial aún no lo había hecho con esa contundencia, León XIV se posiciona ante la cuestión digital con una claridad de amplio alcance. El documento aborda la gobernanza de la IA, la dignidad del trabajo en la transición digital, la desinformación, el armamento autónomo y la crisis del multilateralismo. En su Capítulo IV, además, dedica una sección entera a la educación, y lo que allí dice puede ser útil para quienes trabajamos en instituciones formativas y una lectura obligada para quienes lo hacemos en universidades confiadas a la Compañía de Jesús.

Con base en este reciente documento eclesiástico, la tesis que propone este artículo es la siguiente: la gobernanza digital es una responsabilidad ética insoslayable para las instituciones educativas. Lejos de verse como una tarea técnica, ésta constituye un compromiso que afecta a la misión, a la organización y a las decisiones cotidianas de cualquier institución que forme personas en este momento histórico.Magnifica Humanitas permite fundamentar la gobernanza digital desde la doctrina social de la Iglesia y la convierte en una exigencia pedagógica.

II. Los tres desafíos que nombra el Papa

En la sección educativa de la encíclica, el Papa distingue tres desafíos que una alianza educativa renovada —entre familias, escuelas, comunidades e instituciones públicas— debe afrontar con urgencia.

El primero es sociopolítico. Persisten, afirma León XIV, “fuertes desigualdades en el acceso a la educación básica y a los estudios superiores”, y la digitalización las ha complejizado sin resolverlas. Los sistemas de Inteligencia Artificial no han democratizado el conocimiento de manera automática; de hecho, en muchos contextos lo han estratificado de nuevas formas. Una investigación publicada en enero de 2026 enFrontiers in Computer Science documenta cómo las herramientas de IA educativa tienden a favorecer a estudiantes de países de altos ingresos —donde se desarrollan los modelos y donde reside el idioma dominante de los algoritmos—, lo que perpetúa injusticias estructurales que preceden a la tecnología y que ésta amplifica cuando opera sin directrices éticas (Bulathwela et al., 2026).

El segundo desafío es pedagógico. León XIV señala que gran parte de los planes de estudio y modelos escolares vigentes “fueron concebidos para otra época” y que rápidamente se vuelven obsoletos. No obstante, la revisión queMagnifica Humanitas propone exige repensar la organización escolar, los espacios, los métodos de evaluación y el rol del docente. Esta observación se corresponde con los datos delDigital Education Council Global AI Student Survey(2024), que reveló que el 86% de los estudiantes universitarios ya utiliza IA en sus estudios, y el 72% espera recibir formación formal sobre su uso responsable, demanda que la mayoría de las instituciones todavía no está en condiciones de atender.

El tercer reto que identifica el Santo Padre es intelectual y sapiencial: desarrollar un pensamiento crítico y creativo genuino frente a la sobreabundancia de información y la seducción de las respuestas fáciles. Este es quizá el reto más profundo desde la perspectiva ignaciana. Investigaciones recientes en psicología educativa documentan lo que se ha llamado “la paradoja cognitiva de la IA en educación”: el uso no discernido de asistentes de Inteligencia Artificial favorece eloffloading cognitivo —la externalización del esfuerzo mental—, en detrimento del pensamiento profundo y la capacidad de síntesis (José et al.,Frontiers in Psychology, 2025).

Frente a estas tres interpelaciones,Magnifica Humanitasno nos pide echar por la borda los avances tecnológicos; nos invita a discernir. De hecho, esta noción fundamental en nuestra espiritualidad es mencionada en la encíclica en alrededor de 30 ocasiones. Esa capacidad de discernir es, precisamente, una impronta de la tradición ignaciana en la encíclica.

III. Neutral no significa justo

Magnifica Humanitasno utiliza el término “sesgo algorítmico”. Pero cuando León XIV escribe que la tecnología "toma el rostro de quien la concibe, la financia, la regula y la utiliza" (n. 9), y que existe el riesgo de buscar “traducirlo todo, incluso el misterio de la persona, en datos y rendimientos” (n. 10), está describiendo con precisión lo que la investigación especializada llama “exclusión algorítmica”: la reproducción y amplificación de desigualdades estructurales a través de sistemas automatizados que operan con la apariencia de neutralidad técnica.

En el ámbito educativo, este fenómeno ha provocado consecuencias visibles. Un estudio publicado en 2025 en elWorld Journal of Advanced Research and Reviews, muestra que los sistemas de IA operantes en admisiones, evaluación del aprendizaje y predicción de riesgo de deserción tienden a perjudicar sistemáticamente a estudiantes de comunidades marginadas, cuya expresión lingüística y cultural no corresponde a los patrones dominantes en los datos de entrenamiento (Boateng & Boateng, 2025). El caso más documentado y perturbador es el de los sistemas de detección de plagio asistidos por IA, que identifican erróneamente como generado por máquinas el texto escrito por estudiantes afrodescendientes con mayor frecuencia que el de estudiantes blancos, debido a sesgos incorporados en los modelos (Madden et al., 2024). Tal vez no haya dolo en ello, pero sí la ausencia de una responsabilidad institucional que nadie ha querido asumir. Y esa ausencia es exactamente lo que la encíclica interpela.

Desde lacura personalis ignaciana, la exclusión algorítmica plantea un desafío antropológico: cuando un sistema de tutorías inteligentes o de análisis de riesgo académico opera como sustituto —y no como apoyo— de la relación educativa personalizada, reduce a la persona a meros datos. La fragilidad deja de ser la condición desde la que crece la humanidad y se convierte en una variable de riesgo a gestionar. La encíclica lo dice con otra imagen, pero con la misma claridad: educar no puede ser sinónimo de optimizar.

IV. La gobernanza como tarea ética

Frente a este diagnóstico, León XIV propone una “responsabilidad compartida”, articulada en torno a principios que deben traducirse en prácticas: “planificación responsable, evaluaciones del impacto humano y social, inclusión de los más frágiles, alfabetización digital, investigación e industria orientadas a la justicia y la paz” (n. 14). Esto es, precisamente, lo que significa gobernar la tecnología desde una institución educativa: estructurar su adopción con criterios claros y mecanismos de rendición de cuentas.

En un largo reportaje aparecido en elNew York Timesel 1 de junio de este año, Linda Kinstler, la autora, muestra cómo un sistema universitario se alió con la compañía Open A.I. y compró 500 000 licencias de ChatGPT para todos sus estudiantes, profesores y administrativos, sin una estrategia pedagógica clara y en medio de una crisis financiera que —simultáneamente— había llevado a las autoridades a cerrar departamentos y despedir profesores con plaza. Así, el costoso proyecto generó una fuerte crisis interna: mientras las autoridades lo presentaron como innovación y movilidad social, buena parte del profesorado lo vio como una imposición ligada a recortes, despidos y debilitamiento de la educación pública. Lo cierto es que la decisión de adoptar IA masivamente se tomó desde arriba, con lógica corporativa, sin participarle a la comunidad académica, y en un contexto donde el debilitamiento presupuestal de la universidad pública hizo que la IA pareciera más una solución de austeridad que una apuesta educativa genuina.

Por experiencias como ésta, resulta imprescindible plantear que la adopción y el uso de plataformas de IA deban decidirse en espacios deliberativos. La investigación sobre estas tecnologías aplicadas en centros de educación superior ha identificado una forma que resulta coherente con los principios de subsidiariedad y corresponsabilidad que la encíclica reivindica: el llamado “modelo federado”. A diferencia del centralizado —donde una cúpula decide todo— y del distribuido —donde cada unidad actúa con plena autonomía—, este establece salvaguardas éticas generales y permite que, a partir de ellas, cada dependencia experimente, pilotee y adapte, con la condición de reportar resultados y asumir responsabilidad ante la comunidad. Este modelo no es necesariamente costoso en términos presupuestales, pero sí en términos de voluntad institucional.

En la práctica, una gobernanza digital éticamente responsable en una universidad de tradición jesuita debería incluir, como mínimo: un comité interdisciplinar con representación académica, tecnológica, jurídica, ética y estudiantil; un conjunto de principios rectores que definan qué usos de la IA son inaceptables, cuáles requieren supervisión y cuáles pueden adoptarse con autonomía relativa; un sistema de clasificación del riesgo de cada iniciativa, especialmente respecto a poblaciones vulnerables; y un protocolo de piloteo previo a cualquier generalización. La Asociación Internacional de Universidades Jesuitas (IAJU) identificó exactamente estos elementos en su Asamblea de Bogotá de 2025, donde el tema de la IA en la educación superior jesuita ocupó el centro del debate institucional. La encíclica llega, en ese contexto, como una profundización de inquietudes ya planteadas.

20250715-Asamblea-IAJU25-_ALX7985

Imagen: ASAMBLEA IAJU 2025 por: Pontificia Universidad Javeriana - 01 de Julio de 2025.

En referencia a la sesión plenaria “Inteligencia Artificial: beneficios y desafíos”, que se llevó a cabo el 2 de julio en la Universidad Javeriana, en la que líderes de universidades jesuitas de todo el mundo se reunieron para reflexionar sobre los profundos cambios que la IA está generando en la educación.

V. Lo que ofrece la escuela

Hay una frase deMagnifica Humanitasque conviene citar: la escuela “no está llamada a perseguir la velocidad del mundo digital, sino a ofrecer aquello que lo digital por sí solo no puede dar: tiempo compartido para aprender y relaciones fiables” (Capítulo IV). Esta afirmación constituye una apuesta por la naturaleza misma de la educación.

El documento vaticanoAntiqua et Nova (Dicastery for the Doctrine of the Faith y Dicastery for Culture and Education, enero de 2025) lo había anticipado: la IA puede imitar y simular al ser humano, pero carece de conciencia moral, empatía, y capacidad afectiva, relacional o espiritual.Magnifica Humanitaslo confirma desde la doctrina social: la grandeza de la educación reside en su vocación de acompañar a la persona en el proceso de darse una forma humana. Ese es el bien que las instituciones educativas tienen el deber de custodiar, precisamente porque la lógica del mercado digital no lo hará por ellas.

Por eso, los cuatro objetivos educativos que el Papa formula en la encíclica —educar en la sobriedad y el sentido de los límites; en el reconocimiento del derecho del otro y de las generaciones futuras; en la libertad y la responsabilidad; y en el sentido de la trascendencia y del bien común— resuenan con lo que, por siglos, ha defendido la pedagogía ignaciana.

VI. Una responsabilidad que no puede delegarse

Magnifica Humanitas nos entrega —especialmente a quienes trabajamos en educación desde una tradición de fe y de compromiso con la justicia— una interpelación muy enriquecedora. Nos pide que gobernemos la IA con sabiduría: que construyamos las estructuras que protejan la dignidad de los más vulnerables; que formemos personas capaces de pensar y de decidir; y que la propia organización de nuestras instituciones sea coherente con lo que enseñamos.

Así pues, la gobernanza digital no se restringe a una tarea técnica a resolverse mediante presupuestos abultados para adquirir servidores y plataformas. Es una responsabilidad que atraviesa la organización y la cultura institucional. Una responsabilidad que —desde la imagen de Nehemías que propone el Papa— exige que cada actor de la comunidad universitaria asuma su tramo de muralla: los directivos, en el diseño de políticas; el cuerpo académico, en la revisión de sus métodos; los estudiantes, en el ejercicio de un uso discernido de las herramientas; y la institución en su conjunto, en la construcción de los mecanismos de rendición de cuentas que garanticen que ningún algoritmo decida, en su nombre, quién merece crecer y quién no.

Referencias:

  • Boateng, O., & Boateng, A. (2025).Algorithmic bias in educational systems: Examining the impact of AI-driven decision making in modern education.World Journal of Advanced Research and Reviews, 25(1), 2012–2017. https://doi.org/10.30574/wjarr.2025.25.1.0253
  • Bulathwela, S., et al. (2026).AI and the digital divide in education.Frontiers in Computer Science. https://doi.org/10.3389/fcomp.2026.1759027
  • Dicastery for the Doctrine of the Faith, & Dicastery for Culture and Education. (2025).Antiqua et nova: Note on the relationship between artificial intelligence and human intelligence. Vatican.
  • Digital Education Council. (2024).Global AI Student Survey. Cited in Patiño Guevara, D. A. (2025).AI in Jesuit Higher Education: Guiding Innovation with Ethics, Dialogue, and Mission. IAJU Assembly, Bogotá.
  • José, B., Cherian, J., et al. (2025).The cognitive paradox of AI in education: Between enhancement and erosion.Frontiers in Psychology, 16. https://doi.org/10.3389/fpsyg.2025.1550621
  • Leo XIV. (2026).Magnifica Humanitas: Encyclical Letter on the Safeguarding of the Human Person in the Age of Artificial Intelligence. Libreria Editrice Vaticana.
  • Madden, R., et al. (2024).Linguistic and cultural bias in AI plagiarism detection. Cited in Reichart, M., et al. (2026).Leveraging Artificial Intelligence (AI) to Strengthen MTSS Within Catholic Schools.Psychology in the Schools. https://doi.org/10.1002/pits.70174
  • Humanities and Social Sciences Communications. (2025).Towards responsible artificial intelligence in education: A systematic review. https://doi.org/10.1057/s41599-025-05252-6
  • Patiño Guevara, D. A. (2025).AI in Jesuit Higher Education: Guiding Innovation with Ethics, Dialogue, and Mission. IAJU Assembly, Bogotá.
  • The Global Research Alliance of Jesuit Universities. (2026).The AI Frontier and the Jesuit Universities. https://www.jesuits.global/2026/04/01/the-ai-frontier-and-the-jesuit-universities/

Autor

Luis Arriaga Valenzuela, S.J., es sacerdote jesuita, abogado y doctor en Educación. Nació en Tijuana y ha dedicado buena parte de su vida a la docencia, la investigación y la defensa de los derechos humanos. Desde enero de 2022 se desempeña como rector de la Universidad Iberoamericana Ciudad de México y de la Universidad Iberoamericana Tijuana. Ha estudiado derecho, teología y filosofía entre México y Estados Unidos, con una estancia posdoctoral en la Universidad de Stanford. Además de su trabajo universitario, escribe con frecuencia sobre derechos humanos, justicia social y educación. En 2025, la Universidad de Georgetown le otorgó un doctorado honoris causa.

Créditos de imagen de portada: Jóvenes participantes trabajando juntas durante el campamento de programación organizado por la iniciativa African Girls Can Code en el Centro de Transformación Digital GIZ de Kigali, Ruanda, en abril de 2024. Foto: ONU Mujeres Publicado el 28 de junio de 2024.

Share this Post:

Noticias relacionadas