Pour recruter, Amazon utilisait une intelligence artificielle misogyne

Le logiciel utilisé pour affiner le recrutement des employés du géant américain excluait automatiquement les femmes de certains postes.

Depuis quelques mois, le tournant semble amorcé vers un recours de plus en plus fréquent à l’intelligence artificielle pour nous aider dans notre quotidien. Le succès des assistants-domestiques est l’une des preuves concrètes que le grand public semble de plus en plus enclin à laisser les machines gérer une partie de leur vie.

Si le grand public commence à découvrir ces IA, les géants du web les utilisent depuis de nombreuses. Amazon fait partie des pionniers du secteur et, parmi les nombreux algorithmes utilisés par le géant du e-commerce, un robot permettait d’affiner le recrutement des employés de la firme en effectuant un premier tri dans les nombreuses candidatures. Mais Amazon a été contraint de « débrancher » ce RH 2.0, car il avait tendance à exclure d’office les profils féminins pour certains emplois.

Le robot sexiste d’Amazon

Selon Reuters, ce programme d’Amazon était développé en interne depuis 2014. Le but était d’aider les responsables de recrutement à trier les CV et ainsi, ne retenir que les candidatures les plus pertinentes. Le robot analysait la candidature et notait le candidat sur une échelle de 1 à 5 en fonction des informations renseignées dans le CV.

Comme toute IA, le programme affinait lui-même son algorithme pour devenir de plus en plus précis. Mais au fil des mois, le robot avait tendance à écarter de plus en plus de profils de femme. Les ingénieurs ont remarqué ce biais dès 2015 et ont tenté d’inverser la tendance.

Une IA pleine de préjugés ?

Les ingénieurs d’Amazon ont donc tenté de reprogrammer l’IA pour la rendre plus neutre, mais, après réflexion, ils se sont demandés si cette dernière ne faisait pas entrer d’autres préjugés sexistes, voire même racistes, en ligne de compte.

La décision a donc été prise d’abandonner totalement le projet pour repartir de zéro. Cette fois, la nouvelle intelligence artificielle devrait être totalement neutre et le rester.