Reconnaissance faciale: Amazon accusé de travailler avec le gouvernement américain

Amazon travaille avec les services d'immigration américains pour proposer leur système de reconnaissance faciale. A quelques semaines de l'attribution d'un gros contrat avec l'armée, la firme de Jeff Bezos veut être dans les petits papiers de l'Etat fédéral.

Amazon est dans le collimateur des défenseurs des libertés aux Etats-Unis. En cause son système d'intelligence artificielle Rekognition lancé par la firme en 2016 et qui est capable de détecter et de reconnaître des visages sur toutes sortes de contenus multimédia. Une technologie qui intéresse beaucoup les autorités américaines au rang desquelles les services de police et d'immigration. 

Un premier contrat avec des polices locales de Floride et d'Oregon avait déjà suscité la colère de certains actionnaires minoritaires d'Amazon qui avaient dénoncer cette collaboration dans une lettre ouverte à Jeff Bezos.

Cette fois c'est l'ONG Project on Government Oversight qui s'émeut d'une nouvelle collaboration avec les autorités américaines. Selon l'organisation, Amazon travaillerait secrètement avec les services fédéraux des douanes et de l'immigration (l'ICE). Les équipes d'Amazon Web Service, l'activité cloud du géant américain, auraient participé à plusieurs rencontres en juin dernier avec l'agence fédérale en Californie. Des rencontres qu'Amazon, interrogé par Bloomberg, ne dément pas. "Comme nous le faisons habituellement, nous sommes entrés en contact avec des clients intéressés par nos services, a reconnu un porte-parole. L'Immigration and Customs Enforcement est bien l'une de ces organisations." La firme précise toutefois qu'elle n'a signé aucun contrat avec l'agence.

Quand l'IA confondait des personnes noires avec des gorilles

Cela n'empêche pas l'ONG de grincer des dents. D'abord parce que Jeff Bezos s'était personnellement opposé à la politique migratoire restrictive de Donald Trump et que sa société collabore avec les services censés la mettre en oeuvre. Mais l'agence assure que les technologies de reconnaissance ont jusqu'à présent été utilisées dans des enquêtes criminelles liées à des activités frauduleuses, des vols d'identité et des crimes d'exploitation d'enfants. 

Mais surtout parce que les technologies de reconnaissance faciale déjà utilisées par les services de police n'ont pas toujours fait preuve de leur efficacité et -pire- présentaient pour certains des préjugés raciaux. En 2015, le service de reconnaissance d'images de Google avait ainsi assimilé certaines personnes noires à des gorilles. Une étude réalisée cette année par le MIT confirme ce biais: les IA de reconnaissance faciale sont imprécises dans les détections de visage de non-blancs et de femmes.

En collaborant avec les services fédéraux, Amazon semble faire cavalier seul dans le secteur des géants de la tech. Apple avait ainsi refusé d'aider le FBI à déverrouiller un iPhone, Google, sous la pression de ses salariés, a annoncé qu'il ne renouvellerait pas ses contrats d'IA pour drones avec le Pentagone. Amazon de son côté se veut plus pragmatique. Jeff Bezos a fait savoir plus tôt dans le mois que sa société continuerait de soutenir le département américain de la Défense. Déjà lié au FBI avec un contrat de 600 millions de dollars, Amazon Web Service espère bien obtenir le colossal contrat de 10 milliards de dollars sur 10 ans que le Pentagone va attribuer dans les prochaines semaines. 

https://twitter.com/FredericBianchi Frédéric Bianchi Journaliste BFM Éco