Les avertissements inquiétants des employés de Nvidia

Deux employés de Nvidia ont rencontré le PDG Jensen Huang pour l'alerter sur les dangers potentiels que l'intelligence artificielle représente pour les minorités, selon un rapport de Bloomberg. Masheika Allgood et Alexander Tsado ont exprimé leurs préoccupations lors d'une réunion en 2020, soulignant les risques de l'IA, en particulier pour les minorités.

Cependant, les deux employés sont repartis insatisfaits et ont quitté l'entreprise peu de temps après. Allgood a mentionné sur LinkedIn que la réunion avait été les "45 minutes les plus dévastatrices de sa vie professionnelle."

Tsado, ancien responsable du marketing produit chez Nvidia, a expliqué qu'il voulait sensibiliser Huang à l'importance du problème. Il a souligné les implications disproportionnées que les nouvelles technologies pourraient avoir sur les groupes minoritaires.

Les deux anciens présidents du groupe des employés noirs de l'entreprise ont averti que les impacts imprévus de la nouvelle technologie toucheraient de manière disproportionnée les minorités.

Les défis de l’IA et la réponse de Nvidia

Au cœur des préoccupations exprimées lors de la réunion, les employés ont soulevé des inquiétudes quant aux systèmes de reconnaissance faciale basés sur l'IA utilisés dans la technologie de conduite autonome.

Allgood a souligné que ces systèmes pourraient constituer une menace pour les minorités, citant des études indiquant que certaines technologies de reconnaissance faciale ont du mal à identifier les personnes de couleur.

Cependant, Huang a minimisé ces préoccupations, suggérant que les véhicules autonomes pourraient être testés sur des autoroutes où ils représenteraient moins de menace pour les piétons.

L'incident démontre les préoccupations croissantes concernant les implications éthiques et sociales de l'IA, en particulier en ce qui concerne les minorités. Des cas antérieurs, tels que la classification erronée des personnes noires par les systèmes de reconnaissance d'image de Google en 2015, ont mis en évidence les risques de biais dans les algorithmes d'IA.

Bien que Huang ait approuvé certaines propositions d'Allgood dans des e-mails internes consultés par Bloomberg, l'entreprise continue de faire face à des critiques concernant sa diversité. Alors que Nvidia a connu un succès financier grâce à la révolution de l'IA, sa main-d'œuvre aux États-Unis reste moins diversifiée par rapport à ses concurrents, avec seulement 7,8% de personnes noires, hispaniques ou amérindiennes, contre 18% chez Intel, par exemple.

Nvidia a souligné qu'elle avait entrepris des efforts substantiels pour rendreses produits d'IA sûrs et inclusifs depuis le départ d'Allgood et Tsado. L'entreprise a également mis en place un programme d'éthique AI & Legal. Cependant, le rapport souligne que malgré ces efforts, Nvidia accuse toujours un retard en matière de diversité, soulignant ainsi les défis persistants auxquels l'industrie de l'IA est confrontée en termes d'éthique et de représentation.