• Menée par Candriam, la coalition de 21 investisseurs incluant Aviva Investors, Domini Impact Investments LLC et Robeco, a accéléré l’initiative d’engagement collaboratif lancée en 2021 sur les risques posés par la technologie de reconnaissance faciale.
• Elle réclame la suspension immédiate de la vente de ces services aux forces de l’ordre tant qu’une réglementation adéquate n’est pas mise en place, et à s’assurer que cette technologie est employée de manière responsable.

Candriam, gestionnaire d’actifs mondial multi-spécialiste, leader de l’investissement durable et responsable, a publié la mise à jour de son initiative concernant l’investissement dans la technologie de reconnaissance faciale (FRT pour «Facial Recognition Technology»), un an après son lancement. Ce rapport détaille les engagements pris autour des risques liés aux droits humains que pose cette technologie. Candriam, avec l’aide de 20 investisseurs dont Aviva Investors, Domini Impact Investments LLC et Robeco, a interrogé 15 entreprises impliquées dans la FRT afin de comprendre comment elles évaluent, gèrent et atténuent les risques que cette technologie fait courir aux droits humains.

Le rapport a soulevé quatre axes de préoccupation majeurs: les préjugés raciaux et sexistes, la fiabilité limitée de la technologie, l’atteinte à la protection des données personnelles et leur utilisation abusive.

Les principaux points à retenir:

• La réglementation ayant du mal à suivre l’évolution de la technologie, il est indispensable pour les entreprises de dépasser le cadre juridique pour se concentrer sur l'éthique. Les sociétés qui communiquent de façon proactive et transparente sur l’éthique de l’intelligence artificielle (IA) et sur une approche responsable de la FRT envoient un signal positif sur l’attention et la considération apportées à ces sujets, ce qui se reflète généralement dans l’ensemble de leurs activités.
• Les entreprises doivent à la fois mettre en place une gouvernance spécifique face aux risques liés aux droits humains et publier une politique détaillée en la matière intégrant l’usage de l’IA et de la FRT.
• La technologie permettant la catégorisation est vecteur de discriminations potentielles et de violations des droits de l’Homme et doit donc être évitée à tout prix.
• Les sociétés sont encouragées à éviter de vendre des FRT aux forces de l’ordre tant qu’une réglementation adéquate n’est pas mise en place.
• La FRT doit se focaliser sur le fait de soutenir l’humain dans son travail d’identification et d’authentification. La supervision et le contrôle par l’homme sont essentiels: un algorithme ne doit pas prendre de décision pouvant conduire à une action ayant des conséquences.

Trois entreprises se distinguent par leurs efforts pour atténuer les risques liés aux droits humains dans le cadre de leur utilisation de l’IA et de la FRT: Microsoft, Motorola Solutions et Thales.

• Microsoft a mis en place une gouvernance forte autour de l’éthique de l’IA, et plus particulièrement de la FRT, et a récemment retiré les modes de classification faciale. De plus, Microsoft est l’une des premières entreprises technologiques à avoir mis en place un moratoire sur les ventes de FRT aux forces de l’ordre.
• Motorola insiste sur le fait que le système incluant la FRT doit aider l’humain plutôt que décider à sa place et a intégré une authentification à deux facteurs dans sa technologie.
• Thales a mis en place un contrôle des passeports assisté par la FRT qui exige un suivi rigoureux. L’entreprise s’attache également à supprimer les données des utilisateurs après chaque passage.

Cette mise à jour fait suite au lancement réussi de la campagne FRT de Candriam en mars 2021 et à la signature de la déclaration des investisseurs dans l’utilisation de la technologie de reconnaissance faciale par 55 investisseurs mondiaux en juin 2021. A la suite de ce rapport, Candriam discutera avec chaque entreprise sur la manière dont elles peuvent mettre en œuvre les meilleures pratiques suggérées. Les résultats de ce deuxième cycle d’engagement devraient être publiés en 2023.

Candriam a également rejoint la Collective Impact Coalition (CIC) pour l’Inclusion Numérique, récemment lancée par la World Benchmarking Alliance, afin de promouvoir l’utilisation responsable de l’IA.

Benjamin Chekroun, Analyste Vote et Engagement chez Candriam, déclare: «La rapidité avec laquelle la reconnaissance faciale évolue et le retard pris dans la réglementation de cette technologie signifient qu’une surveillance et une compréhension accrues des entreprises impliquées dans ce domaine sont désormais un impératif en matière de droits de l’Homme. En tant qu’investisseurs responsables misant sur le secteur technologique, nous avons un rôle important à jouer en encourageant les entreprises dans lesquelles nous investissons à identifier, gérer et atténuer les risques liés aux droits de l’Homme dans leur utilisation de l’IA et de la FRT. Nous espérons que notre rapport et ses conclusions serviront de catalyseur aux entreprises pour aborder la question de l’obligation de vigilance et de surveillance des droits de l’Homme, en les incitant à prendre conscience des risques posés par la FRT et à s’y attaquer.»

Louise Piffaut, analyste ESG senior chez Aviva Investors, ajoute: «Chez Aviva Investors, nous sommes heureux de la publication de ce rapport intermédiaire, qui constitue une étape importante dans cette initiative collaborative. La réglementation restant limitée dans le secteur technologique, les entreprises ne prennent pas encore pleinement en compte leurs responsabilités dans la gestion des impacts sociétaux de la FRT, selon l'endroit de la chaîne de valeur où elles sont impliquées. Les investisseurs ont un rôle important à jouer en indiquant les meilleures pratiques et en s'engageant auprès des entreprises sur cette question.»