IBM et son “retrait” du monde de la reconnaissance faciale

En juin 2020, IBM annonçait avec fracas sa décision de mettre un terme à toute recherche, développement et commercialisation de systèmes de reconnaissance faciale à usage général. Cette prise de position audacieuse s'inscrivait dans un contexte de débat houleux autour de cette technologie, marqué par des cas de surveillance de masse, des soupçons d'encouragement au racisme, et des violations manifestes des droits de l'homme.

Le PDG d'IBM, Arvind Krishna, allait jusqu'à adresser une lettre au Congrès américain, démontrant ainsi son engagement en faveur des libertés humaines fondamentales. Il ne se contentait pas de cette déclaration, mais ouvrait également la porte à une réflexion sur la manière dont les forces de l'ordre utilisent la reconnaissance faciale, plaidant pour des approches plus ouvertes et équitables. Cette prise de position courageuse avait un écho au sein de l'industrie technologique. Amazon et Microsoft emboîtaient le pas, suspendant à leur tour leurs programmes de reconnaissance faciale pour les forces de l'ordre, du moins jusqu'à ce que la réglementation fédérale américaine évolue. Ces actions, bien que centrées sur les États-Unis, avaient des répercussions à l'échelle mondiale, démontrant l'influence d'IBM dans ce domaine.

Le contrat controversé de 64 millions d'euros

Pourtant, en juillet 2023, trois ans après avoir pris ses distances avec la reconnaissance faciale, IBM signait un contrat étonnant d'une valeur de 64 millions d'euros avec le gouvernement britannique. L'objectif de ce contrat ? Développer une plateforme biométrique nationale destinée à être utilisée par les agents de l'immigration et les autorités policières du Royaume-Uni, comme l'a révélé The Verge.

Le projet comportait une première étape basée sur l'identification des individus grâce à leurs empreintes digitales, mais il incluait également une phase utilisant la technologie de reconnaissance faciale comme "un outil de mise en correspondance stratégique des visages pour l'application de la loi", dans les domaines mentionnés.

Cette plateforme de reconnaissance faciale fonctionnerait en effectuant des correspondances entre les images captées par les caméras et celles contenues dans une base de données. Pourtant, ce mécanisme suscitait des inquiétudes, car il avait été associé à des faux positifs, ayant entraîné des accusations et des arrestations injustes par le passé.

Face à cette situation controversée, IBM a répondu par l'intermédiaire de son porte-parole, Imtiaz Mufti, affirmant que ce contrat ne contredisait pas les engagements pris en 2020 en matière de droits de l'homme. Selon l'entreprise technologique, elle ne proposait plus de systèmes de reconnaissance faciale "à usage général", suggérant ainsi que ce contrat était une exception.

Cependant, toutes les voix ne convergent pas vers cette interprétation d'IBM. Matt Mahmoudi, chercheur à Amnesty International, a appelé l'entreprise à abandonner ses projets de reconnaissance faciale pour rester fidèle à ses déclarations antérieures visant à mettre fin à ces outils, notamment dans le contexte sensible du maintien de l'ordre et de l'immigration.

L'histoire récente d'IBM et de la reconnaissance faciale est un exemple frappant des dilemmes éthiques auxquels sont confrontées les entreprises technologiques. Alors qu'IBM avait pris une position ferme contre cette technologie en 2020, son récent contrat controversé avec le gouvernement britannique remet en question la sincérité de ses engagements antérieurs. Ce cas souligne l'importance cruciale d'une réglementation claire et d'une réflexion éthique approfondie pour guider le développement et l'utilisation de technologies sensibles comme la reconnaissance faciale.