Exclus par un algorithme : la discrimination technologique dans les systèmes de gestion des migrations
En Europe aujourd’hui, un réfugié est d’abord identifié par un système biométrique, avant même que l’on n’écoute le récit du périlleux voyage qu’il a enduré pour fuir le danger. À la frontière des États-Unis, un demandeur d’asile peut se voir demander de solliciter une protection via une application mobile avant qu’un être humain n’écoute comment ses droits ont été bafoués par la violence et la persécution qui l’ont conduit là. En Jordanie, une famille de migrants pauvres peut découvrir qu’un système basé sur des données, davantage façonné par l’efficacité institutionnelle que par les besoins humains, a déterminé qu’elle ne remplissait pas les conditions requises pour bénéficier d’une aide lui permettant de recommencer sa vie.
Il ne s’agit pas d’incidents isolés. Ils s’inscrivent dans un schéma plus large où les systèmes basés sur l’intelligence artificielle, présentés par les gouvernements et les institutions comme objectifs et fiables, sont souvent perçus par les personnes déplacées de force comme exclusifs et déshumanisants. Dans la pratique, cela peut signifier qu’un réfugié manque une simple notification numérique et perd l’accès à un rendez-vous juridique, ou qu’il ne parvient pas à remplir un formulaire en ligne en raison de barrières linguistiques ou techniques, et se retrouve ainsi exclu d’un processus qui détermine son avenir. Le travail du JRS Europe auprès des réfugiés et des migrants en Grèce, en Hongrie et à Malte montre à quel point l’exclusion peut s’installer facilement lorsque les systèmes numériques deviennent difficiles à utiliser.
Photo 1 : Avec le soutien du JRS Grèce, une mère de trois enfants parvient à obtenir des rendez-vous médicaux pour sa famille. Son histoire montre que, à mesure que les rendez-vous se font en ligne, les barrières numériques peuvent empêcher les familles vulnérables d’accéder aux soins de base.
Une autre forme d’exclusion technologique, moins spectaculaire mais non moins grave, se produit lorsque les migrants et les demandeurs d’asile se retrouvent pris dans des procédures sans informations claires, sans explications ni compréhension réelle de leurs droits. Dans sa contribution auRapport sur l’asile 2022, le JRS Europe a mis en évidence des cas de détention où des personnes avaient du mal à communiquer avec le monde extérieur et n’étaient pas correctement informées sur la protection internationale, ce qui les laissait dans un système qu’elles ne pouvaient ni comprendre pleinement ni naviguer efficacement (JRS Europe 2022).
Migration et dignité humaine
La migration est l’un des enjeux les plus clivants auxquels notre société est confrontée aujourd’hui, et qui continuera à façonner notre avenir commun. Les êtres humains se sont toujours déplacés en quête de sécurité, de dignité et d’une vie meilleure. Si nous ne parvenons pas à considérer les personnes en déplacement avant tout comme des êtres humains et que nous les traitons plutôt comme des données, des menaces ou des problèmes à résoudre, non seulement nous leur manquons de respect, mais nous affaiblissons également ce qu’il y a de meilleur en chacun de nous.
Cet article soutient que l’IA et les systèmes automatisés peuvent améliorer les processus migratoires complexes, mais qu’ils ne doivent pas fonctionner indépendamment d’un contrôle humain si l’on veut protéger les droits et la dignité des migrants, des réfugiés et des demandeurs d’asile. La pratique ignatienne de l’accompagnement aide à clarifier ce qu’implique un tel contrôle, notamment en veillant à ce que les personnes restent visibles et entendues au sein des systèmes qui affectent leur vie.
Les promesses et les limites de l'IA
L'IA peut accélérer les procédures et améliorer l'accès à l'information et aux services, mais ces gains n'ont d'importance que si les systèmes restent transparents, responsables et ouverts au jugement humain (OIM 2024, Rapport sur les migrations dans le monde ; Stanford Impact Labs 2024 ; HCR 2024, Stratégie de transformation numérique). Sinon, l'efficacité pourrait se faire au détriment de la dignité et de l'équité.
Lorsque ces conditions font défaut, la discrimination technologique n’est plus simplement un problème technique au sein d’un système ; elle devient un facteur qui affecte la manière dont une personne est traitée et sa capacité à aller de l’avant dans sa vie. Le préjudice commence souvent avant même qu’une décision finale ne soit prise. Il débute lorsque quelqu’un est traité par un système avant que son histoire ne soit écoutée avec patience. Les réfugiés et les migrants en font l’expérience dans la vie réelle sous forme de retards, d’exclusion et d’impuissance. Certains expliquent ne pas savoir pourquoi une décision a été prise ni ce qu’ils doivent faire ensuite, ce qui les rend dépendants de systèmes qu’ils ne peuvent ni comprendre ni contester (Ozkul 2023). Un étudiant soutenu par le JRS à Malte en est une illustration claire. Il est en troisième année d’études en services financiers et a décroché un apprentissage dans une entreprise qui apprécie son travail. Cependant, de nombreux systèmes utilisés lors de son stage nécessitent une carte d’identité électronique (e-ID), laquelle n’est accessible qu’aux personnes titulaires d’un permis de séjour. Comme il est toujours en procédure d’asile, il ne peut y accéder. Son employeur s’est montré flexible, mais il a tout de même manqué d’importantes opportunités d’apprentissage. Ce même obstacle affecte l’accès à l’aide publique. Le JRS Malte signale que les bourses d’études sont souvent traitées via des systèmes numériques liés à une e-ID. Sans celle-ci, les demandes doivent être déposées en personne, où elles sont parfois retardées ou tout simplement non traitées. Dans un cas, un étudiant qui a déposé une demande de bourse en novembre attend toujours une réponse, alors qu’il ne reste que quelques semaines avant la fin de l’année universitaire. Un système conçu pour être efficace devient, dans la pratique, un obstacle à l’accès à des opportunités auxquelles ils devraient pouvoir prétendre.
Photo 2 : Résidents de Dar Pedro Arrupe à Zejtun, Malte. Le JRS Malte a accompagné des étudiants et des demandeurs d’asile qui rencontrent des difficultés pour accéder à l’éducation et à l’aide, car les principaux systèmes numériques exigent une carte d’identité électronique.
Des obstacles similaires apparaissent ailleurs en Europe. Dans un témoignage partagé par le JRS Hongrie, un Ukrainien de 75 ans déplacé a décrit son expérience en ces termes :
« J’ai beaucoup de mal à utiliser Internet et à remplir des questionnaires en ligne. Les questionnaires sont longs, les questions sont compliquées, et à mon âge, c’est très difficile. Avant de venir à Budapest, je n’utilisais que Facebook, Viber et quelques autres applications de manière très limitée. Les formulaires, les programmes et les demandes ne prennent tout leur sens qu’une fois que les bénévoles m’ont tout expliqué. »
Photo 3 : Évaluation des compétences numériques de base et formation SMART UA pour les personnes âgées, organisées par le JRS Hongrie.
La technologie influence également la manière dont les personnes sont perçues et traitées tout au long des procédures d’asile et d’immigration. L’utilisation par l’Allemagne d’un système automatisé de reconnaissance des dialectes illustre bien cette évolution. Mis en place en 2017, cet outil analyse les caractéristiques de la parole pour faciliter la prise de décision en matière d’asile. Le ton de l’entretien change dès lors qu’un demandeur est d’abord considéré comme un échantillon vocal plutôt que comme une personne en quête de protection. Le préjudice n’est pas seulement d’ordre juridique ou procédural, mais touche également à la confiance. Un demandeur d’asile aborde souvent la procédure dans un état de peur et de vulnérabilité. Si la première réponse vient d’une machine qui le contrôle et le classe plutôt que d’une personne qui l’écoute, toute l’expérience s’en trouve modifiée (Ozkul 2023).
Même des systèmes d'apparence banale, comme les versements automatiques des prestations sociales, peuvent avoir de graves répercussions sur les personnes. Un changement dans le versement peut avoir des répercussions sur l’alimentation, les transports ou les besoins d’un enfant. Si le système commet une erreur et que personne ne peut l’expliquer clairement, la famille en souffre de manière immédiate et concrète. Pour aggraver les choses, les personnes qui disposent déjà de moins de ressources, telles que des compétences linguistiques limitées, des connaissances juridiques restreintes, une faible maîtrise du numérique ou un manque de soutien, sont plus susceptibles de rencontrer des difficultés et d’être lésées par des retards, de la confusion ou des décisions peu claires (Ozkul 2023).
Des systèmes aux personnes : l’accompagnement comme réponse
Ces expériences soulèvent une question plus large sur la manière dont ces systèmes sont évalués. L’efficacité, l’échelle et la cohérence ne disent pas tout. Un système peut bien fonctionner sur le plan administratif tout en semblant déroutant et déshumanisant pour la personne qui s’y trouve.
Cette même approche, consistant à « ne pas perdre de vue la personne », est approfondie dans la pratique jésuite de l’accompagnement. Michael Schöpf, directeur international du JRS, décrit le JRS comme commençant par « chaque relation dans laquelle nous accompagnons une personne déplacée de force », et il considère l’écoute comme essentielle à cette relation, en particulier dans des situations marquées par l’incertitude, le traumatisme et la perte. Il rappelle également la conviction de Pedro Arrupe selon laquelle le JRS doit offrir un service « humain, pédagogique et spirituel » (Schöpf 2026, SJES Reflections). Dans cette perspective, le problème de l’exclusion automatisée ne réside pas seulement dans le fait qu’un système puisse être imprécis. L’accompagnement contribue à garantir que, même au sein de grands systèmes, aucune personne ne soit réduite à un dossier ou rendue invisible par l’ . Au fil du temps, cela peut façonner la manière dont les institutions perçoivent les personnes, de sorte que les réfugiés, les demandeurs d’asile et les migrants soient d’abord considérés comme des dossiers à traiter plutôt que comme des personnes cherchant à reconstruire leur vie et à être accueillies avec humanité. Le pape Léon XIV soulève une préoccupation similaire dans son récente encyclique Magnifica Humanitas, en avertissant que les systèmes technologiques ne devraient jamais réduire la personne humaine à des données, à l’efficacité ou à un résultat. La technologie peut faciliter le travail humain, mais elle ne peut remplacer le jugement humain, la responsabilité et la nécessité de rencontrer les gens en tant que personnes (Léon XIV 2026,Magnifica Humanitas).
Au fond, l’accompagnement signifie marcher aux côtés d’une personne plutôt que de prendre des décisions à distance. Il commence par l’écoute et la compréhension de la situation d’une personne avant de répondre. Dans le contexte de la migration, cela signifie résister à la tendance à réduire les individus à des dossiers ou à des données. Cela signifie veiller à ce que les personnes restent visibles, entendues et capables de s’engager dans le processus qui façonne leur vie. Sur le plan institutionnel, cela signifie concevoir des systèmes qui permettent l’explication, l’examen et l’engagement humain à chaque étape du processus. La supervision humaine fournit la structure de la responsabilité, mais l’accompagnement contribue à garantir que cette structure reste humaine et attentive à la personne qui s’y trouve. Dans ce contexte, l’accompagnement n’est pas distinct de la supervision humaine ; il aide à clarifier ce qu’exige, dans la pratique, une telle supervision.
Discernement et évaluation éthique
La pratique du discernement est étroitement liée à l’accompagnement. En termes simples, le discernement consiste à se demander ce qui se passe réellement et quel effet cela a sur les personnes. Appliqué aux technologies de gestion des migrations, cela signifie se demander non seulement si un système fonctionne efficacement, mais aussi quel impact il a sur la personne qui doit vivre avec lui. Aide-t-il quelqu’un à bénéficier d’un traitement équitable, d’une explication claire et d’une véritable chance d’être entendu ? Ou bien réduit-il cette personne à un numéro, un dossier ou un profil type à vérifier ? Rend-il les décisions plus compréhensibles et responsables, ou plus difficiles à remettre en question et à contester ? Ce ne sont pas des questions auxquelles la seule performance technique peut répondre. Elles doivent être posées du point de vue de ceux qui portent le poids du système.
Accompagnement pratique et réponse aux droits
Si les systèmes numériques déterminent désormais qui est vu, entendu ou exclu, l’accompagnement doit s’ancrer davantage dans ces réalités. Affirmer la dignité ne suffit pas. Aujourd’hui, l’accompagnement doit également aider les personnes à s’y retrouver, à se remettre en question et à réagir face aux systèmes qui affectent leur vie.
Cela commence par aider une personne à comprendre ce qui s’est passé. Lorsqu’une personne est exclue en raison d’une notification manquée, d’un refus automatisé ou d’un processus numérique peu clair, la première tâche est souvent simple mais essentielle : s’asseoir avec elle, passer en revue le processus et identifier où le problème s’est produit. Beaucoup sont exclus non pas parce qu’ils ne sont pas éligibles, mais parce que le système ne leur était pas accessible.
L'accompagnement consiste également à rétablir la capacité d'une personne à réagir. Cela peut impliquer de l'aider à déposer un recours, à reprogrammer un rendez-vous manqué ou à mener à bien une procédure numérique qu'elle ne pouvait pas gérer seule. Dans de tels cas, l'accès à un téléphone, à une connexion Internet stable, à des services de traduction ou à des conseils adaptés peut faire la différence entre l'exclusion et l'inclusion.
Cela signifie également savoir quand orienter vers un service et comment défendre leurs droits. Lorsque des décisions ont une incidence sur le statut juridique, la protection ou les besoins fondamentaux, les personnes doivent être mises en relation avec l’aide juridique, le soutien numérique disponible et des organisations communautaires de confiance ou des travailleurs sociaux capables de les accompagner sur la durée. Il faut également les aider à comprendre qu’elles ont droit à une explication, à un réexamen et à un recours.
Enfin, l’accompagnement n’est pas seulement personnel, mais structurel. Cela signifie plaider en faveur de systèmes qui restent accessibles, transparents et responsables, tout en refusant de laisser l’efficacité diminuer l’humanité de la personne. Vu sous cet angle, le contrôle humain n’est pas simplement une garantie technique ; c’est une façon de « voir » la personne. Les technologies liées à la migration peuvent faciliter la prise de décision, mais elles ne peuvent se substituer à la responsabilité d’écouter et de répondre. Si les applications d’IA doivent servir efficacement la gouvernance des migrations, elles doivent s’inscrire dans un cadre où le jugement humain est présent, accessible et responsable.
Conclusion: la question humaine
L’IA et les systèmes automatisés contribuent à accélérer les processus migratoires et à les rendre plus efficaces. Mais pour les personnes qui doivent vivre au sein de ces processus, la question n’est pas seulement de savoir s’ils fonctionnent, mais s’ils laissent encore la place à une personne pour qu’elle soit vue, entendue et capable de réagir.
L'exclusion commence souvent bien avant qu'une décision finale ne soit prise. Elle commence lorsqu'une personne ne comprend pas un processus, ne peut pas accéder à un système ou ne peut pas contester un résultat qui façonnera son avenir.
C’est pourquoi l’accompagnement est essentiel. Il nous rappelle qu’aucun système, aussi avancé soit-il, ne peut remplacer la responsabilité d’écouter, d’expliquer et de rester proche de la personne.
L’accompagnement n’est donc pas simplement une réponse aux systèmes technologiques ; c’est ce qui empêche ces systèmes de devenir aveugles à la personne. Un système qui fonctionne efficacement n'est pas nécessairement un système juste. Il devient plus juste lorsqu'il laisse une place et encourage une approche humaine, fondée sur la dignité, le respect et la responsabilité, et qu'il la favorise.
Références
- Organisation internationale pour les migrations. 2024.Rapport sur les migrations dans le monde 2024. Genève : Organisation internationale pour les migrations. https://publications.iom.int/books/world-migration-report-2024
- Service jésuite des réfugiés Europe. 2022.Rapport annuel 2022. Bruxelles : Service jésuite des réfugiés Europe. https://jrseurope.org/wp-content/uploads/sites/19/2023/10/Annual-Report-2022-reduced-size.pdf.
- Service jésuite des réfugiés Europe. s.d. « Détention des immigrants ». https://jrseurope.org/en/programme/immigration-detention/
- Service jésuite des réfugiés. 2026. « Service jésuite des réfugiés : un apostolat mondial de la Compagnie de Jésus ».SJES Reflections, 13 février 2026. https://www.sjesjesuits.global/sj-reflections/jesuit-refugee-service-a-global-apostolate-of-the-society-of-jesus/
- Léon XIV. 2026.Magnifica Humanitas : De la sauvegarde de la personne humaine à l’ère de l’intelligence artificielle.Cité du Vatican : Libreria Editrice Vaticana.www.vatican.va/content/leo-xiv/en/encyclicals/documents/20260515-magnifica-humanitas.html
- Ozkul, Derya. 2023.L’automatisation de l’immigration et de l’asile : les applications des nouvelles technologies dans la gouvernance des migrations et de l’asile en Europe. Oxford : Refugee Studies Centre, Université d’Oxford. PDF : https://www.rsc.ox.ac.uk/files/files-1/automating-immigration-and-asylum_afar_9-1-23.pdf
- Stanford Impact Labs. 2024. « Comment les nouveaux outils d'IA peuvent-ils améliorer les résultats en matière d'intégration et de réinstallation des migrants à l'échelle mondiale ? » 10 septembre 2024. https://impact.stanford.edu/article/how-can-new-ai-tools-improve-integration-and-resettlement-outcomes-migrants-globally
- Haut-Commissariat des Nations Unies pour les réfugiés (HCR). 2024. Stratégie de transformation numérique 2022-2026. Genève : HCR. https://www.unhcr.org/digitalstrategy/
Auteur
Le révérend Raymond Anthony C. Parcon, SJ, est un prêtre jésuite de la province Ouest des États-Unis. Il est titulaire d’une licence en génie mécanique de l’université Ateneo de Davao, de deux masters en génie logiciel et en cybersécurité de l’université nationale, ainsi que d’un certificat avancé en sécurité informatique de l’université de Stanford. Il a étudié la philosophie sociale à l’université Loyola de Chicago, puis a obtenu une licence en théologie sacrée et un master en théologie au Regis College de l’université de Toronto. Il a également obtenu un master en migrations internationales et réfugiés à la School of Foreign Service de l’université de Georgetown. Raymond a travaillé avec le Service jésuite des réfugiés à Malte et en Roumanie, accompagnant des réfugiés d’Afrique, du Moyen-Orient et d’Ukraine. Il travaille aujourd’hui au JRS Europe à Bruxelles, au sein du département des programmes et de l’identité de la mission.





