L'intelligence artificielle n'est pas une chose facile et des problèmes peuvent survenir même dans les entreprises ayant une vaste expérience de développement dans ce domaine. C'est arrivé aussi avec Amazon. Comme le rapporte l'agence de presse Reuters : « L'entreprise a dû abandonner un projet basé sur l'IA qui sélectionnait automatiquement le personnel. Son principal problème est l'oppression des femmes."
Une expérience ratée d'Amazon
Dans la plupart des cas, la formation à l'IA se fait en analysant les données historiques. Leur problème fréquent est l'exécution de tâches basées sur des "idées préconçues". Dans ce cas, le "préjudice" était un nombre important d'hommes travaillant dans le domaine informatique. Le logiciel a développé un algorithme qui classe les questionnaires qui répertorient les collèges féminins et qui contiennent le mot "féminin" aux dernières places du classement.
Lisez aussi: Amazon lance Echo Wall Clock avec prise en charge de l'assistant vocal Alexa
"L'équipe de développement a essayé de développer un programme qui, sur 100 candidatures soumises, sélectionne les 5 meilleures, selon certains critères." - rapporte une source anonyme.
Lisez aussi: Amazon présente le haut-parleur intelligent Echo Show mis à jour avec un grand écran de 10 pouces
Lorsque l'entreprise s'est rendu compte que le programme donnait des résultats basés sur les différences entre les sexes, elle a décidé de modifier les algorithmes d'IA. Cependant, la réputation du projet a été ébranlée. De plus, il n'y avait aucune garantie qu'il n'y avait pas d'autres « biais » dans le programme. Par conséquent, sans réfléchir longtemps, Amazon a décidé de couvrir le projet jusqu'à des temps meilleurs.
Nous ne pouvons qu'espérer que le projet sera corrigé et continuera à plaire aux utilisateurs avec des résultats honnêtes.
Source: le bord