Entre 2018 y 2021, el gobierno de Bangladés envió a Myanmar los nombres de al menos 830 000 refugiados rohingya, junto con las fotografías y las huellas dactilares que la agencia de la ONU para los refugiados les había tomado al registrarlos para recibir ayuda. Human Rights Watch, que documentó la transferencia, descubrió que la agencia se había saltado la evaluación completa de impacto de datos exigida por sus propias políticas. Veintitrés de los veinticuatro refugiados que entrevistó dijeron que nadie les había informado que sus datos podrían llegar al país del que habían huido. El ACNUR refuta esa versión.

En agosto de 2023, miles de kenianos hicieron fila en Nairobi para que Worldcoin —un proyecto cofundado por Sam Altman, de OpenAI— les escaneara el iris, a cambio de tokens por un valor aproximado de 7,000 chelines. El Ministerio del Interior suspendió el proyecto «hasta que las agencias públicas pertinentes certifiquen la ausencia de riesgo alguno para el público en general».

En 2018, fui a un campamento para personas desplazadas en Mubi, en el estado de Adamawa, al noreste de Nigeria. Llevamos comida, mantas y medicamentos. Registramos a cada persona, inscribimos a cada hogar, distribuimos lo que teníamos y redactamos nuestro informe. Cuando regresé unos meses después, las personas que antes se habían identificado con nosotros por su oficio y la familia a la que pertenecían, ahora se identificaban como ‘beneficiarios’ genéricos.

Usábamos papel y hojas de cálculo, y quienes llevábamos los registros teníamos buenas intenciones. Pero un sistema que conoce y reconoce a las personas únicamente como registros de datos (si se lo permitimos) decidirá sobre ellas como registros de datos y —en última instancia— se le podría permitir matarlas como ‘registros de datos’. Si una persona es solo un registro que puede representarse digitalmente, “borrarla” (matarla) estaría justificado, dado que un registro puede clasificarse, compartirse o eliminarse sin causar daño a otros registros. Por lo tanto, las preguntas subyacentes a todo este texto siguen siendo: ¿quées una persona y por qué esto nodebería suceder?¿Quién puede tener autoridad sobre una vida humana?

Para mí, una persona es un camino recorrido en una red de relaciones, que ningún perfil extraído de un cuerpo puede representar (encarnar); y la autoridad sobre una vida le pertenece a Aquel que la otorgó. Ningún ser humano tiene esa autoridad, por lo que nadie puede otorgársela a una máquina, ni delegarla. Contrasto esta postura con el pensamiento relacional Igboy la doctrina católica, leídos en paralelo. Escribo como joven jesuita africano que desea estas tecnologías para mi continente y teme lo que pueden significar para la privacidad y la vigilancia, para la autoridad sobre la vida y, tal vez, para los cielos.

Foto de George Prentzas en Unsplash.

Datos, persona y deshumanización digital

Imagina a una mujer en una mesa de registro en un campamento de refugiados, presionando su pulgar contra una placa de vidrio, mirando a través de una lente y girando su rostro hacia una cámara. En cuestión de segundos, le ha entregado su cuerpo a una máquina, y ahora está reducida a datos. Por «inteligencia artificial» me refiero a sistemas que aprenden patrones a partir de grandes volúmenes de datos para clasificar, predecir o tomar decisiones. Las agencias humanitarias registran cada vez más a las personas desplazadas de esta manera, y la mujer, que necesita la comida que se encuentra al otro lado de la mesa, rara vez puede negarse.

Un relato preciso de lo que ella ha perdido en ese proceso proviene de John Locke, quien escribió en 1690 que «todo hombre tiene propiedad sobre su propia persona», y de C. B. Macpherson, quien más tarde presentó lo que surgió de tales afirmaciones como el «individualismo posesivo». Desde ese punto de vista, sus datos son una extensión de su propiedad; su uso indebido se considera un robo; y se introducen conceptos como el consentimiento, la propiedad y el control. Sin embargo, lo que ella perdió incluye su lugar con, en y entre los demás.

Mi propia tradición me brinda palabras, y de ella he extraído un marco que denomino Ijeluwa, del Igbo«ije»: viaje, y «ụwa»:existencia: el camino que a cada persona se le da para recorrer el mundo. Una persona se forma a través de las relaciones con la comunidad viva, los antepasados, los que aún no han nacido, la tierra y Dios, a quien los Igbollaman Chukwu. Los Igbodistinguen entremmadụ (un ser humano) y onye (una persona en el sentido pleno), aquella en la que se convierte el ser al recorrer esas relaciones. El filósofo nigeriano Ifeanyi Menkiti argumentó que, en el pensamiento africano, la personalidad es algo en lo que uno se convierte a través de la comunidad.

Por lo tanto, esa mujer sentada a la mesa es única por partida doble. Para el sistema, es única por su perfil, un conjunto de datos extraídos de ella. Para su gente, se le conoce por su trayectoria: la red de relaciones que le es propia, incluyendo de quién es hija, de quién es madre, en qué pueblo se encuentran sus antepasados, etc. A mi modo de ver, el sistema automatizado solo puede crear el perfil dejando de lado esa trayectoria. Registra su huella digital y omite, entre otras cosas, el nombre de su madre, su linaje y su lugar entre los vivos y los muertos.

Del registro de datos a la selección de objetivos

En Magnifica Humanitas el papa León XIV advierte que la inteligencia artificial en la guerra termina por «reducir a las víctimas a datos». La creación de perfiles por parte de una máquina que registra a una persona para proporcionarle alimentos también puede utilizarse para seleccionar a esa persona como objetivo militar. Un pequeño dron que sobrevuela una carretera, sin nadie que lo controle, puede tener ese perfil como objetivo. Un dron como ese es un sistema de armas autónomo. Una vez activado, selecciona y ataca objetivos por sí mismo, comparando lo que detectan sus sensores con un perfil de objetivo programado; en el momento del ataque, ningún ser humano decide que esa persona en particular morirá ni cuál es el objetivo correcto. El caso que más se cita como el primer uso de un arma de este tipo contra personas, según informaron expertos de la ONU, ocurrió en Libia, en África, en 2020.

El Papa León dice: «El juicio moral no puede reducirse a un cálculo, pues implica la conciencia, la responsabilidad personal y el reconocimiento del otro como persona. Por lo tanto, no es lícito confiar a sistemas artificiales decisiones letales o de otro modo irreversibles» (n.º 198). Para mi propio pueblo, ese límite pertenece a la tierra. Entre los Igbo, matar a un pariente era nsọ ala, una abominación contra Ala, la tierra. En el libro de Chinua Achebe, Things Fall Apart, cuando el arma de Okonkwo mata accidentalmente a un niño, la muerte sigue ofendiendo a la tierra, y Okonkwo debe abandonarla durante siete años. Incluso una muerte no intencional debía ser respondida por Okonkwo y por toda la comunidad. Según entiendo, la vida nunca es una posesión privada. Pertenece a una red que abarca a los vivos, a los muertos y a los que aún no han nacido, y se extiende hacia abajo, hasta la tierra, y hacia arriba, hasta Chukwu, la fuente de la vida.

A Okonkwo se le podía enviar al exilio. Pero ¿se puede exiliar a una máquina? ¿Puede arrepentirse o reconciliarse? Una madre que pregunta quién mató a su hijo merece una respuesta, y si se presenta una máquina como aquella que tomó la decisión, no queda nadie para responder. La Iglesia enseña que la vida humana «permanece para siempre en una relación especial con el Creador, quien es su único fin», y que «solo Dios es el Señor de la vida desde su inicio hasta su fin» (Catecismo de la Iglesia Católica 2258). Juan Pablo II agregó que la vida nos ha sido confiada y que debemos rendir cuentas de ella (Evangelium Vitae 52). La autoridad sobre la vida nunca fue nuestra, por lo que no tenemos autoridad para otorgársela a una máquina.

Christof Heyns, quien, como relator especial de la ONU presentó un informe sobre el uso de estas armas ante el Consejo de Derechos Humanos en 2013, expresó el mismo punto en términos jurídicos, siguiendo al filósofo Peter Asaro: no se puede delegar un poder que no se tiene. En los casos en que la Iglesia ha permitido el uso de la fuerza letal, en legítima defensa, lo ha considerado un grave deber que recae sobre quienes son responsables de la vida de otros (Catecismo 2265), y ahora juzga inadmisible la pena de muerte porque atenta contra la inviolabilidad y la dignidad de la persona (Catecismo 2267). Se nos pide que seamos responsables los unos de los otros. Una máquina no puede ser responsable de nadie, y eso sería cierto incluso si nunca cometiera errores. Las máquinas fallan en su funcionamiento y pueden ser pirateadas o manipuladas. Y una vez que se le permite a una máquina decidir sobre una vida, ningún principio la limita, porque las razones dadas para el primer caso —la rapidez y la eficiencia— se aplican igualmente en los siguientes casos. Muchos padres Igbo llaman a sus hijos Ndụbụisi, que significa «la vida es lo primero». ¿Está la vida en primer lugar en nuestras decisiones al otorgar a las máquinas autoridad sobre la vida humana?

Cuando Dios le pregunta a Caín dónde está su hermano, él responde: «¿Acaso soy yo el guardián de mi hermano?» (Génesis 4:9). En la tradición Igbo decimos: onye aghala nwanne ya: que nadie abandone a su hermano. Un ejército que deja el acto de matar en manos de un arma autónoma ha abandonado a la persona a la que mata, quien sigue siendo parte de la propia humanidad.

Pocos Estados, y menos aún los africanos, pueden construir estos sistemas, y me temo que Libia no será el último campo de pruebas africano. Los grupos armados que ya desafían a los gobiernos desde el Sahel hasta el este del Congo intentarán comprarlos o fabricarlos, y los Estados que ya tienen dificultades para gobernar podrían perder el control por completo. Sin embargo, los gobiernos de África Occidental ya han comenzado a marcar un límite. En abril de 2024, los Estados miembros de la Comunidad Económica de Estados de África Occidental se reunieron en Freetown y pidieron la negociación urgente de un instrumento jurídicamente vinculante sobre las armas autónomas. Su comunicado también señala que estas tecnologías, si se desarrollan y comparten de manera equitativa, podrían mejorar la vida de las personas, y advierte que, sin equidad, podrían agravar la desigualdad y fomentar la deshumanización digital.

Ser como relación, Dios como amor

Regreso aquí a Ijeluwa, el marco que presenté anteriormente. Su nombre une dos palabras igbo, ije, «viaje», y ụwa, «mundo», y designa el viaje que cada persona recorre por el mundo en medio de una red de relaciones. El filósofo keniano John Mbiti escribió: «Soy porque somos; y puesto que somos, por lo tanto, soy». Él describía lo que es una persona. Ijeluwalleva esta afirmación más allá, de las «personas» a todo lo que existe, sosteniendo que la relación ocupa el primer lugar en el orden del ser. La encíclica Magnifica Humanitas llega a la misma conclusión desde otra perspectiva al afirmar que «el uso de la fuerza, la violencia y las armas refleja una pobreza relacional» (n.º 192).

En Ijeluwa, la fuente de todo lo que existe es Otu, una palabra en igbo que significa «unidad», que yo describo como «relacionalidad perfecta»: una plenitud en la que cada relación es completa y cada distinción se mantiene en la unidad, sin que nada se pierda ni se borre. Todo fluye de esta plenitud, a medida que el amor se derrama más allá de sí mismo y participa de ella. El misionero belga Placide Tempels llamó a esta participación «fuerza vital». Las piedras, los ríos, los animales, los seres humanos y los antepasados participan todos, cada uno a su manera. Un pueblo no contaminará su arroyo, porque el arroyo participa de la vida del pueblo. Un niño lleva el nombre de un antepasado, y el antepasado permanece entre los vivos.

Las Escrituras dicen que Dios es amor (1 Juan 4:8), y la reflexión sobre la Trinidad llevó a Tomás de Aquino a describir a las personas divinas como relaciones subsistentes (Summa TheologiaeI, q. 29, a. 4). En el nivel más profundo de la realidad, tanto en la confesión cristiana como en la intuición africana, hay comunión. Las dos tradiciones difieren, pero creo que se encuentran aquí. Juntas le dan a la ética una base mejor que el individualismo posesivo, porque ambas comienzan donde comienza la vida de la mujer sentada al otro lado de la mesa: en sus relaciones.

He llamado a la inteligencia artificial una relación emergente: algo creado por las personas y que entra en relaciones con personas sin ser una persona. Es más que una cosa, porque cambia la red en la que vivimos. No es una persona, porque no recorre el camino (Ijeluwa) desde el nacimiento, pasando por la comunidad, hacia Dios. Dejo de lado si es consciente o no. Me pregunto qué impacto tiene en las relaciones que nos hacen personas. También me pregunto si la mujer sentada a la mesa se va de ahí siendo aún reconocida por su familia y su aldea, o si solo se la reconoce por su huella digital.

En el Principio y Fundamento de los Ejercicios Espirituales, San Ignacio escribe que hemos sido creados para alabar, venerar y servir a Dios, y que las demás cosas han sido creadas para ayudarnos a alcanzar ese fin, para ser utilizadas en la medida en que nos ayuden y dejadas de lado en la medida en que nos lo impidan, tantum quantum (Ejercicios Espirituales 23). En la «Contemplación para alcanzar el amor», Ignacio nos pide que veamos a Dios habitando y obrando en todas las criaturas, y dice que el amor consiste en el intercambio mutuo de lo que cada uno tiene (EE. 230 a 237). Puedo imaginar un mundo con inteligencia artificial como una red de relaciones correctas, donde todo, incluso lo que hemos creado, sirve a Dios. Perdemos ese mundo si le damos a estos sistemas autoridad sobre las vidas de las personas a las que sirven.

Lo que quiero de estas máquinas

Quiero estas tecnologías para África. En las escuelas rurales donde enseñan los voluntarios de nuestra fundación, un tutor paciente que hable el mismo idioma que una niña podría cambiar su futuro. Un sistema que lea el presupuesto estatal línea por línea podría decirle a un pueblo cuánto dinero se destinó a su clínica y cuánto de ese dinero realmente llegó a la institución. Herramientas como estas se sumarían a la red de relaciones. Espero que los africanos estén entre quienes las construyan y las compartan.

Nadie debería aceptar la transferencia de autoridad sobre la fuerza y la vida a las máquinas, ni su uso por parte de los poderosos para mantener a los débiles sometidos. Veo tres tareas para la Iglesia en África. En primer lugar, puede apoyar a los gobiernos de África Occidental en la defensa de su postura en la Conferencia de Revisión de la Convención sobre Ciertas Armas Convencionales en Ginebra, en noviembre de 2026. Las parroquias, las escuelas y los cristianos, a título individual, pueden comunicar a sus respectivos gobiernos que apoyan esta postura. En segundo lugar, las escuelas y universidades católicas y jesuitas pueden enseñar a los jóvenes africanos cómo funcionan estos sistemas y cómo cuestionarlos. En tercer lugar, las parroquias, las escuelas, las comunidades jesuitas y los grupos cívicos pueden leer juntos lo que ya existe —el comunicado de Freetown y el informe sobre África y las armas autónomas que Stop Killer Robots publicó en inglés, francés y portugués en febrero de 2026— y decidir qué hacer en sus respectivos lugares de residencia.

Estrellas en Zimbabue. Foto de Erik Adair en Unsplash.

Los cielos pertenecen al Señor

Mi tercer temor se refiere a los cielos. En junio de 2025, Mark Zuckerberg fundó Meta Superintelligence Labs y le dijo a su personal que el desarrollo de la superinteligencia estaba a la vista. SpaceX afirma que su objetivo es permitir que las personas vivan en otros planetas. En una noche clara en Adamawa, el cielo parece no pertenecer a nadie. En términos legales, eso sigue siendo cierto. El Tratado del Espacio Ultraterrestre de 1967 establece que el espacio ultraterrestre, incluida la Luna, «no está sujeto a apropiación nacional por reivindicación de soberanía, mediante el uso u ocupación, ni por ningún otro medio». Desde entonces, Estados Unidos en 2015 y Luxemburgo en 2017 han aprobado leyes que permiten a las empresas privadas ser propietarias de los recursos que extraen del espacio.

El Papa León inicia la encíclica Humanitas Magnificadiciendo que la humanidad se enfrenta a «una elección decisiva: o construir una nueva Torre de Babel, o edificar la ciudad en la que Dios y la humanidad convivan» (n.º 1). Como dice el Salmo: «Los cielos son del Señor, pero él ha dado la tierra a los hijos de Adán» (Salmo 115:16). Si una máquina más inteligente que nosotros aprendiera los hábitos del individualismo posesivo, me temo que reclamaría la Luna y los planetas como propiedad, tal como ya reclamamos la tierra y los datos. En el pensamiento igbo, la tierra pertenece a la comunidad como uno de sus miembros. Los antepasados están enterrados en ella, y los vivos tienen la obligación de cuidarla. Si las piedras y los arroyos participan del ser, como sostiene Ijeluwa, también lo hacen la Luna y los planetas, y creo que les debemos el mismo cuidado.

Las decisiones se están tomando ahora, en laboratorios y salas de negociación, por personas que, por lo que puedo ver, rara vez se preguntan qué es una persona y casi nunca le preguntan nada a la mujer sentada en la mesa en el campo de refugiados. La Iglesia tiene algo que decirles a esas personas, y debería decirlo antes de que tomen decisiones. Puede decirles que el ser humano es relación, que la vida es lo primero y que la autoridad sobre la vida le pertenece a Dios.

Sigo pensando en la gente de Mubi que, para identificarse, dejó de decir sus oficios y los nombres de sus familias. Sea cual sea la inteligencia que construyamos, por muy grande que sea, me pregunto si ayuda a personas como esas de Mubi a volver a decir esos nombres que “son” en sus relaciones. Les pediría a quienes la construyen que recuerden lo que dicen los padres Igbo cuando le ponen a un niño el nombre de Ndụbụisi: la vida es lo primero.

Fuentes

• Achebe, Chinua. Things Fall Apart.Londres: Heinemann, 1958.
• Aquino, Tomás. *Summa Theologiae*I, q. 29, a. 4.
• Catecismo de la Iglesia Católica, núms. 2258, 2265 y 2267.
• Estados miembros de la CEDEAO. Comunicado de Freetown, Conferencia Regional sobre Sistemas de Armas Autónomas, Freetown, Sierra Leona, abril de 2024.
• Heyns, Christof. «Las armas autónomas en los conflictos armados y el derecho a una vida digna: una perspectiva africana».South African Journal on Human Rights 33, n.º 1 (2017): 46-71.
• Human Rights Watch.«La ONU compartió datos sobre los rohingya sin consentimiento informado». 15 de junio de 2021.
• Ignacio de Loyola. Ejercicios Espirituales, núms. 23 y 230 a 237.
• Juan Pablo II. *Evangelium Vitae*. 1995, n.º 52.
• Kenia, Ministerio del Interior y de la Administración Nacional. Declaración por la que se suspenden las actividades de Worldcoin, 2 de agosto de 2023.
• León XIV. Magnifica Humanitas. 2026, núms. 1, 192 y 198.
• Locke, John. Segundo tratado sobre el gobierno. 1690, § 27.
• Luxemburgo. Ley del 20 de julio de 2017 sobre la exploración y el uso de los recursos espaciales.
• Macpherson, C. B. La teoría política del individualismo posesivo: de Hobbes a Locke. Oxford: Clarendon Press, 1962.
• Mbiti, John S. Religiones y filosofía africanas. Londres: Heinemann, 1969.
• Menkiti, Ifeanyi A. «La persona y la comunidad en el pensamiento tradicional africano». En Filosofía africana: una introducción, editado por Richard A. Wright, 171-181. Lanham, MD: University Press of America, 1984.
• Meta Platforms. Memo interno de Mark Zuckerberg en el que anuncia Meta Superintelligence Labs, 30 de junio de 2025, según informaron Bloomberg y Fortune.
• SpaceX. Declaración de misión de la empresa, spacex.com.
• Stop Killer Robots (Elizabeth Minor e Ishmael Bhila).África y la gobernanza de los sistemas de armas autónomas. Febrero de 2026.
• Tempels, Placide. Filosofía bantú. París: Présence Africaine, 1959.
• Tratado sobre los principios que rigen las actividades de los Estados en la exploración y utilización del espacio ultraterrestre, incluidas la Luna y otros cuerpos celestes, 1967. Artículo II.
• Consejo de Seguridad de las Naciones Unidas. Informe final del Grupo de Expertos sobre Libia, S/2021/229, 8 de marzo de 2021.
• Estados Unidos. Ley de Competitividad de los Lanzamientos Espaciales Comerciales, Ley Pública 114-90, 2015.

Autor

Créditos de imagen de portada: Silueta de un dron con cámara volando durante una puesta de sol. Fotografía: Sorasak (@boontohhgraphy). Fuente: Unsplash, publicada bajo la Licencia Unsplash, de uso gratuito, el 15 de marzo de 2017 (UTC).