Selon Joy Buolamwini, chercheuse du MIT, la réponse d’Amazon a été que le logiciel n’est pas « une reconnaissance faciale, c’est une reconnaissance de genre » – comme si cela rendait acceptable l’identification des femmes comme des hommes.
Michelle et Serena sont toutes deux des femmes génétiquement et biologiquement, mais elles ont été en proie à de vicieuses rumeurs selon lesquelles ce sont des hommes.
Cela n’aide pas le logiciel de reconnaissance de genre d’Amazon qui les identifie également avec le genre masculin.
Alors que « genre » et « sexe » sont souvent substitués l’un à l’autre, leurs significations sont différentes. Selon Dictionary.com, le sexe est « une étiquette attribuée à la naissance en fonction des organes reproducteurs avec lesquels vous êtes né ».
« Le genre comprend la perception, la compréhension et l’expérience d’une personne d’elle-même et de ses rôles dans la société…
Cependant, Michelle et Serena interagissent avec le monde en tant que femmes biologiques.
Les critiques se plaignent que le système d’Amazon montre des préjugés sexistes et raciaux, et des études récentes ont confirmé ce préjugé.
Des études menées par Joy Buolamwini ont révélé d’énormes préjugés raciaux et sexistes dans le logiciel de reconnaissance faciale.
Des manifestations à travers les États-Unis ont incité Amazon à suspendre l’utilisation de son logiciel par la police en 2020.
Après quelques ajustements, l’interdiction a été levée par Amazon, affirmant qu’il espérait que le Congrès adopterait une loi pour garantir l’utilisation éthique de la technologie de reconnaissance du genre. Cependant, aucune loi de ce type n’a été adoptée, selon Fox Business.