Entre 2018 et 2021, le gouvernement du Bangladesh a transmis auMyanmar les noms d’au moins 830 000 réfugiés rohingyas, ainsi que les photographies et les empreintes digitales que l’agence des Nations Unies pour les réfugiés avait prises lors de leur enregistrement en vue de l’octroi d’une aide. Human Rights Watch, qui a documenté ce transfert, a constaté que l’agence avait omis de réaliser l’évaluation complète de l’impact des données requise par ses propres politiques. Sur les 24 réfugiés interrogés, 23 ont déclaré que personne ne leur avait dit que leurs données personnelles pourraient parvenir à l’État qu’ils avaient fui. Le HCR conteste cette version des faits.

En août 2023, des milliers de Kenyans ont fait la queue à Nairobi pour se faire scanner l’iris par Worldcoin, un projet cofondé par Sam Altman d’OpenAI, en échange de jetons d’une valeur d’environ 7 000 shillings. Le ministère de l’Intérieur a suspendu le projet « jusqu’à ce que les organismes publics compétents certifient l’absence de tout risque pour le grand public ».

En 2018, je me suis rendu dans un camp de personnes déplacées à Mubi, dans l’État d’Adamawa, au nord-est du Nigeria. Nous avons apporté de la nourriture, des couvertures et des médicaments. Nous avons enregistré chaque personne, répertorié chaque foyer, distribué ce que nous avions et rédigé notre rapport. Lorsque je suis revenu quelques mois plus tard, les personnes qui s’étaient autrefois présentées en mentionnant leur métier et leur famille s’identifiaient désormais comme des « bénéficiaires ».

Nous utilisions du papier et des tableurs, et ceux d’entre nous qui tenaient les registres avaient de bonnes intentions. Mais un système qui ne reconnaît les personnes qu’en tant qu’enregistrements de données finira (si nous le laissons faire) par statuer à leur sujet en tant qu’enregistrements de données et pourrait, en dernier ressort, être autorisé à les tuer en tant que bénéficiaires « enregistrés ». Si une personne n’est qu’une donnée représentée numériquement, cela serait justifié, étant donné qu’un enregistrement peut être trié, partagé ou supprimé sans causer de tort à quiconque. Par conséquent, les questions sous-jacentes à tout cet article restent les suivantes :qu’est-ce qu’une personne, et pourquoi cela ne devrait-il pas se produire ? Qui peut détenir l’autorité sur une vie humaine ?

Pour moi, une personne est un parcours tracé au sein d’un réseau de relations, qu’aucun profil tiré d’un être humain ne peut représenter, et l’autorité sur une vie appartient à Celui qui l’a donnée. Aucun être humain ne dispose de cette autorité ; personne ne peut donc la confier à une machine ni la déléguer. Je confronte cette position à la pensée relationnelle Igboet à l’enseignement catholique, en les lisant de manière parallèle. J’écris en tant que jeune jésuite africain qui souhaite que ces technologies soient mises au service de mon continent, mais qui craint leurs répercussions sur la vie privée et la surveillance, sur l’autorité sur la vie, et peut-être même sur les cieux.

Photo de George Prentzas sur Unsplash.

Données, personne et déshumanisation numérique

Imaginez une femme assise à une table d’enregistrement dans un camp, appuyant son pouce sur une plaque de verre, regardant dans un objectif et tournant son visage vers une caméra. En quelques secondes, elle a livré son corps à une machine, désormais réduite à de simples données. Par « intelligence artificielle », j’entends des systèmes qui apprennent des modèles à partir d’énormes quantités de données afin de classer, de prédire ou de prendre des décisions. Les organisations humanitaires enregistrent de plus en plus souvent les personnes déplacées de cette manière, et cette femme, qui a besoin de la nourriture qui se trouve de l’autre côté de la table, peut rarement refuser.

Un témoignage sur ce qu’elle a perdu nous vient de John Locke, qui écrivait en 1690 que « chaque homme a un droit de propriété sur sa propre personne », et de C. B. Macpherson, qui a présenté ce qui a découlé de telles affirmations sous le nom d’« individualisme possessif ». Selon cette conception, ses données constituent une extension de sa propriété ; leur utilisation abusive est considérée comme un vol ; et les notions de consentement, de propriété et de contrôle entrent en jeu. Cependant, ce qu’elle a perdu inclut sa place avec, au sein et parmi les autres.

Ma propre tradition me donne des mots, et c’est à partir d’elle que j’ai élaboré un cadre que j’appelle Ijeluwa, dérivé des mots igbos « ije » : voyage, et «ụwa » : existence, le chemin que chaque personne est appelée à parcourir à travers le monde. Une personne se construit à travers ses relations avec la communauté vivante, les ancêtres, ceux qui ne sont pas encore nés, la terre et Dieu, que les Igbos appellent Chukwu. La culture igbo distingue le mmadụ (un être humain) de l’onye (une personne au sens plein du terme), celle qui se réalise en parcourant ces relations. Le philosophe nigérian Ifeanyi Menkiti a soutenu que, dans la pensée africaine, la personnalité est quelque chose que l’on acquiert au sein de la communauté.

C’est pourquoi cette femme assise à la table est doublement unique. Aux yeux du système, elle est unique par son profil, un ensemble de données qui lui ont été prélevées. Pour les siens, elle est définie par son parcours : le réseau de relations qui lui est propre, notamment de qui elle est la fille, de qui elle est la mère, dans quel village reposent ses ancêtres, etc. À mon sens, le système ne peut établir ce profil qu’en faisant abstraction de ce parcours. Il enregistre son empreinte digitale et omet, entre autres, le nom de sa mère, sa lignée et sa place parmi les vivants et les morts.

De l’enregistrement des données à la sélection des cibles

Dans Magnifica Humanitas, le pape Léon XIV met en garde contre le fait que l’intelligence artificielle en temps de guerre finit par « réduire les victimes à de simples données ». Le profilage automatisé, qui recense une personne pour lui fournir de la nourriture, peut également servir à la sélectionner comme cible. Un petit drone survolant une route, sans pilotage humain, peut avoir un tel profil comme cible. Un drone de ce type est un système d’armement autonome. Une fois activé, il sélectionne et attaque des cibles de lui-même, en faisant correspondre ce que ses capteurs détectent à un profil de cible programmé. Aucun être humain ne décide, au moment de frapper, qui tuer ou quelle est la bonne cible. Le cas le plus souvent cité comme la première utilisation d’une telle arme contre des personnes, rapporté par des experts de l’ONU, s’est produit en Afrique, en Libye, en 2020.

Le pape Léon écrit : « Le jugement moral ne peut se réduire à un calcul, car il implique la conscience, la responsabilité personnelle et la reconnaissance de l’autre en tant que personne. Il n’est donc pas permis de confier à des systèmes artificiels des décisions mortelles ou irréversibles » (n° 198). Pour mon peuple, cette limite était liée à la terre. Chez les Igbo, tuer un membre de sa famille était un nsọ ala, une abomination envers Ala, la terre. Dans le livre de Chinua Achebe, Things Fall Apart, lorsque le fusil d’Okonkwo tue accidentellement un garçon, cette mort offense tout de même la terre, et Okonkwo doit quitter la terre pendant sept ans. Même une mort involontaire devait être expiée par Okonkwo et par toute la communauté. Tel que je le comprends, la vie n’est jamais une possession privée. Elle appartient à un réseau qui relie les vivants, les morts et les enfants à naître, et qui s’enfonce dans la terre pour remonter jusqu’à Chukwu, la source de la vie.

Okonkwo pouvait être condamné à l’exil. Une machine peut-elle être exilée ? Peut-elle se repentir ou se réconcilier ? Une mère qui demande qui a tué son fils mérite une réponse, et si c’est une machine qui a pris la décision, il ne reste personne pour lui donner cette réponse. L’Église enseigne que la vie humaine « reste à jamais dans une relation particulière avec le Créateur, qui est sa fin unique », et que « Dieu seul est le Seigneur de la vie, de son commencement à sa fin » (Catéchisme de l’Église catholique, n° 2258). Jean-Paul II a ajouté que la vie nous est confiée et que nous devons en rendre compte (Evangelium Vitae, n° 52). L’autorité sur la vie ne nous a jamais appartenu ; nous n’avons donc pas le pouvoir de la confier à une machine. Christof Heyns, qui, en tant que rapporteur spécial des Nations unies, a porté ces armes devant le Conseil des droits de l’homme en 2013, a formulé ce même argument en termes juridiques, à la suite du philosophe Peter Asaro : on ne peut déléguer un pouvoir que l’on ne possède pas. Lorsque l’Église a autorisé le recours à la force létale, en cas de légitime défense, elle l’a considéré comme un devoir grave incombant à ceux qui sont responsables de la vie d’autrui (Catéchisme 2265), et elle juge désormais la peine de mort inadmissible car elle porte atteinte à l’inviolabilité et à la dignité de la personne (Catéchisme 2267). On nous demande d’être responsables les uns envers les autres. Une machine ne peut être responsable de personne, et ce serait vrai même pour une machine qui ne commettrait jamais d’erreur. Les machines tombent en panne, fonctionnent mal et peuvent être piratées ou saisies. Et dès lors qu’on autorise une machine à décider d’une vie, aucun principe ne l’empêche de décider de la suivante, car les raisons invoquées pour le premier cas, à savoir la rapidité et l’efficacité, s’appliquent tout aussi bien au suivant. De nombreux parents Igbosdonnent à leur enfant le prénom Ndụbụisi, qui signifie « la vie d’abord ». La vie passe-t-elle avant tout dans nos décisions lorsqu’il s’agit de confier aux machines le pouvoir de disposer de la vie humaine ?

Lorsque Dieu demande à Caïn où se trouve son frère, Caïn répond : « Suis-je le gardien de mon frère ? » (Genèse 4:9). Dans la tradition igbo, on dit : onye aghala nwanne ya : que personne n’abandonne son frère.Une armée qui confie le meurtre à une arme autonome a abandonné la personne qu’elle tue, qui reste pourtant de sa propre famille humaine.

Peu d’États, et encore moins d’États africains, sont capables de construire ces systèmes, et je crains que la Libye ne soit pas le dernier terrain d’essai africain. Les groupes armés qui contestent déjà l’autorité des gouvernements, du Sahel à l’est du Congo, tenteront de les acheter ou de les fabriquer, et les États qui peinent déjà à gouverner pourraient perdre tout contrôle. Pourtant, les gouvernements d’Afrique de l’Ouest ont déjà commencé à tracer une ligne rouge. En avril 2024, les États membres de la Communauté économique des États de l’Afrique de l’Ouest se sont réunis à Freetown et ont appelé à la négociation urgente d’un instrument juridiquement contraignant sur les armes autonomes. Leur communiqué précise également que ces technologies, si elles sont développées et partagées de manière équitable, pourraient améliorer la vie des êtres humains, et mettent en garde contre le fait que, sans équité, elles risquent d’aggraver les inégalités et d’encourager la déshumanisation numérique.

Être en relation, Dieu comme amour

Je reviens ici à Ijeluwa, le cadre que j’ai présenté précédemment. Son nom réunit deux mots igbos, ije, « parcours », et ụwa, « monde », et désigne le parcours que chaque personne accomplit à travers le monde au sein d’un réseau de relations. Le philosophe kenyan John Mbiti a écrit : « Je suis, parce que nous sommes ; et puisque nous sommes, donc je suis. » Il décrivait ainsi ce qu’est une personne. Ijeluwapousse cette affirmation plus loin, passant des « personnes » à tout ce qui existe, en soutenant que la relation vient en premier dans l’ordre de l’être. Magnifica Humanitas parvient à la même conclusion par une autre voie lorsqu’elle affirme que « le recours à la force, à la violence et aux armes reflète une pauvreté relationnelle » (n° 192).

À Ijeluwa, la source de tout ce qui existe est Otu, un mot Igboqui signifie « unité », que je décris comme une relationnalité parfaite : une plénitude où chaque relation est accomplie et chaque distinction maintenue dans l’unité, sans que rien ne soit perdu ni effacé. Tout découle de cette plénitude, tout comme l’amour se répand au-delà de lui-même et y participe. Le missionnaire belge Placide Tempels appelait cette participation « force vitale ». Les pierres, les rivières, les animaux, les êtres humains et les ancêtres y participent tous, chacun à sa manière. Un village ne souillera pas son ruisseau, car celui-ci participe à la vie du village. Un enfant porte le nom d’un ancêtre, et l’ancêtre demeure parmi les vivants.

L’Écriture dit que Dieu est amour (1 Jean 4, 8), et la réflexion sur la Trinité a conduit Thomas d’Aquin à décrire les personnes divines comme des relations subsistantes (Summa TheologiaeI, q. 29, a. 4). Au niveau le plus profond de la réalité, dans la confession chrétienne comme dans l’intuition africaine, il y a communion. Les deux traditions diffèrent, mais je crois qu’elles se rejoignent ici. Ensemble, elles offrent à l’éthique un fondement plus solide que l’individualisme possessif, car toutes deux prennent leur source là où commence la vie de la femme, c’est-à-dire dans ses relations.

J’ai qualifié l’intelligence artificielle de « relation émergente » : quelque chose créé par les humains qui entre en relation avec des personnes sans être une personne. C’est plus qu’une chose, car cela modifie le réseau dans lequel nous vivons. Ce n’est pas une personne, car cela ne parcourt pas le chemin (Ijeluwa) qui va de la naissance à Dieu, en passant par la communauté. Je laisse de côté la question de savoir si elle est consciente. Je me demande quel impact elle a sur les relations qui font de nous des personnes. Je me demande également si la femme assise à table s’en va en étant toujours reconnue par sa famille et son village, ou si elle n’est désormais identifiée que par son empreinte digitale.

Dans le Principe et Fondement des Exercices spirituels, saint Ignace écrit que nous sommes créés pour louer, vénérer et servir Dieu, et que les autres choses sont créées pour nous aider à atteindre cette fin, pour être utilisées dans la mesure où elles nous aident et abandonnées dans la mesure où elles nous gênent, tantum quantum(Exercices spirituels 23). Dans la « Contemplation pour atteindre l’amour », Ignace nous invite à voir Dieu demeurer et œuvrer en toutes les créatures et affirme que l’amour consiste en un partage mutuel de ce que chacun possède (230 à 237). Je peux imaginer un monde doté d’intelligence artificielle comme un réseau de relations justes, où tout, y compris ce que nous avons créé, sert Dieu. Nous perdons ce monde si nous accordons à ces systèmes une autorité sur la vie des personnes qu’ils servent.

Ce que j’attends de ces machines

Je veux ces technologies pour l’Afrique. Dans les écoles rurales où enseignent les bénévoles de notre fondation, un tuteur patient parlant la langue d’une jeune fille pourrait changer son avenir. Un système capable de lire le budget de l’État ligne par ligne pourrait indiquer à un village combien d’argent a été alloué à son dispensaire, et quelle part de cette somme y est effectivement parvenue. Des outils comme ceux-ci viendraient enrichir ce réseau de relations. J’espère que les Africains feront partie de ceux qui les construiront et les partageront.

Personne ne devrait accepter que le pouvoir sur la force et sur la vie soit transféré à des machines, ni que les puissants les utilisent pour maintenir les faibles dans un état de soumission. Je vois trois missions pour l’Église en Afrique. Premièrement, elle peut soutenir les gouvernements d’Afrique de l’Ouest lorsqu’ils défendront leur cause lors de la Conférence d’examen de la Convention sur certaines armes classiques à Genève en novembre 2026. Les paroisses, les écoles et les chrétiens à titre individuel peuvent faire savoir à leurs propres gouvernements qu’ils soutiennent cette position. Deuxièmement, les écoles et universités catholiques et jésuites peuvent enseigner aux jeunes africains comment ces systèmes fonctionnent et comment les remettre en question. Troisièmement, les paroisses, les écoles, les communautés jésuites et les associations civiques peuvent lire ensemble les documents existants, à savoir le communiqué de Freetown et la note d’information sur l’Afrique et les armes autonomes publiée par Stop Killer Robots en anglais, français et portugais en février 2026, et décider des actions à mener là où ils vivent.

Étoiles au Zimbabwe. Photo d’Erik Adair sur Unsplash.

Les cieux appartiennent au Seigneur

Ma troisième crainte concerne les cieux. En juin 2025, Mark Zuckerberg a créé les Meta Superintelligence Labs et a déclaré à son personnel que le développement de la superintelligence se profilait à l’horizon. SpaceX affirme que son objectif est de permettre aux humains de vivre sur d’autres planètes. Par une nuit claire dans l’Adamawa, le ciel semble n’appartenir à personne. En droit, cela reste vrai. Le Traité sur l’espace extra-atmosphérique de 1967 stipule que l’espace extra-atmosphérique, y compris la Lune, « ne peut faire l’objet d’une appropriation nationale par revendication de souveraineté, par voie d’utilisation ou d’occupation, ou par tout autre moyen ». Depuis, les États-Unis en 2015 et le Luxembourg en 2017 ont adopté des lois autorisant les entreprises privées à s’approprier les ressources qu’elles extraient de l’espace.

Le pape Léon ouvre l’encyclique Magnifica Humanitas en écrivant que l’humanité est confrontée à « un choix décisif : soit construire une nouvelle tour de Babel, soit bâtir la cité où Dieu et l’humanité vivent ensemble » (n° 1). Comme le dit le Psaume : « Les cieux appartiennent au Seigneur, mais il a donné la terre aux enfants d’Adam » (Psaume 115, 16). Si une machine plus intelligente que nous venait à adopter les habitudes d’un individualisme possessif, je crains qu’elle ne revendique la Lune et les planètes comme sa propriété, tout comme nous revendiquons déjà la terre et les données. Dans la pensée Igbo, la terre appartient à la communauté au même titre que l’un de ses membres. Les ancêtres y sont enterrés, et les vivants se doivent d’en prendre soin. Si les pierres et les ruisseaux ont leur part d’existence, comme l’affirme Ijeluwa, il en va de même pour la Lune et les planètes, et je pense que nous leur devons le même soin.

Les décisions se prennent en ce moment même, dans les laboratoires et les salles de négociation, par des personnes qui, pour autant que je puisse en juger, se demandent rarement ce qu’est un être humain, et ne consultent presque jamais la femme assise à la table. L’Église a quelque chose à dire à ces personnes, et elle devrait le dire avant qu’elles ne prennent ces décisions. Elle peut leur dire que l’être est relation, que la vie passe avant tout, et que l’autorité sur la vie appartient à Dieu.

Je pense encore aux habitants de Mubi qui ont cessé de mentionner leur métier et le nom de leur famille. Quelle que soit l’intelligence que nous mettons en œuvre, aussi formidable soit-elle, je me demande si elle aide des gens comme eux à prononcer à nouveau ces propres noms. Je demanderais à ceux qui la mettent en œuvre de se souvenir de ce que disent les parents Igboslorsqu’ils donnent à un enfant le nom de Ndụbụisi : la vie d’abord, la vie avant tout.

Sources

• Achebe, Chinua. Things Fall Apart.Londres : Heinemann, 1958.
• Thomas d’Aquin. *Summa Theologiae*I, q. 29, a. 4.
• Catéchisme de l’Église catholique, nos 2258, 2265 et 2267.
• États membres de la CEDEAO. Communiqué de Freetown, Conférence régionale sur les systèmes d’armes autonomes, Freetown, Sierra Leone, avril 2024.
• Heyns, Christof. « Les armes autonomes dans les conflits armés et le droit à une vie digne : une perspective africaine ».South African Journal on Human Rights 33, n° 1 (2017) : 46-71.
• Human Rights Watch.« L’ONU a partagé des données sur les Rohingyas sans consentement éclairé ». 15 juin 2021.
• Ignace de Loyola. Exercices spirituels, n° 23 et 230 à 237.
• Jean-Paul II. *Evangelium Vitae*. 1995, n° 52.
• Kenya, ministère de l’Intérieur et de l’Administration nationale. Déclaration suspendant les activités de Worldcoin, 2 août 2023.
• Léon XIV. Magnifica Humanitas. 2026, n° 1, 192 et 198.
• Locke, John. Deuxième traité du gouvernement. 1690, § 27.
• Luxembourg. Loi du 20 juillet 2017 relative à l’exploration et à l’exploitation des ressources spatiales.
• Macpherson, C. B. La théorie politique de l’individualisme possessif : de Hobbes à Locke. Oxford : Clarendon Press, 1962.
• Mbiti, John S. Religions et philosophie africaines. Londres : Heinemann, 1969.
• Menkiti, Ifeanyi A. « La personne et la communauté dans la pensée traditionnelle africaine ». Dans *Philosophie africaine : une introduction*, sous la direction de Richard A. Wright, p. 171-181. Lanham, MD : University Press of America, 1984.
• Meta Platforms. Note interne de Mark Zuckerberg annonçant la création de Meta Superintelligence Labs, 30 juin 2025, telle que rapportée par Bloomberg et Fortune.
• SpaceX. Déclaration de mission de l’entreprise, spacex.com.
• Stop Killer Robots (Elizabeth Minor et Ishmael Bhila). L’Afrique et la gouvernance des systèmes d’armes autonomes. Février 2026.
• Tempels, Placide. La philosophie bantoue. Paris : Présence Africaine, 1959.
• Traité sur les principes régissant les activités des États en matière d'exploration et d'utilisation de l'espace extra-atmosphérique, y compris la Lune et les autres corps célestes, 1967. Article II.
• Conseil de sécurité des Nations unies. Rapport final du Groupe d’experts sur la Libye, S/2021/229, 8 mars 2021.
• États-Unis. Loi sur la compétitivité des lancements spatiaux commerciaux (Commercial Space Launch Competitiveness Act), loi publique n° 114-90, 2015.

Auteur

Crédits de l’image de couverture : Silhouette d’un drone équipé d’une caméra volant dans le ciel au coucher du soleil. Photo : Sorasak (@boontohhgraphy). Source : Unsplash, publiée sous la licence Unsplash, autorisant une utilisation gratuite, le 15 mars 2017 (UTC).