Racisme: Quand l’Intelligence artificielle déraille !

Racisme: Quand l’Intelligence artificielle déraille !

mardi, 27 octobre, 2020 à 11:29

-Par : Boutaina RAFIK-

Rabat – “Siri, quel temps fera-t-il demain ?”, “Siri, qu’est-ce que j’ai de prévu la semaine prochaine ?”, “Siri, est-ce que tu m’aimes ?”. L’IA est à la mode et elle est partout : téléphones, assistants personnels, jeux vidéo, robots, transports… Cette intelligence artificielle (IA), qui accompagne le quotidien de plusieurs individus, aide à la prise de décision dans plusieurs entreprises et qui bientôt sera capable de raisonner au moins aussi bien que ne le fait un être humain, est au coeur d’une nouvelle polémique.

L’IA est-elle raciste? Ses algorithmes sont-ils sensibles à la couleur, au sexe ou à la religion? Ces questions sont revenues sur le devant de la scène dans la foulée des émeutes suscitées par la mort de George Floyd et les biais dus à l’usage des technologies de reconnaissance faciale dans le cadre du maintien de l’ordre aux Etats-Unis.

Les dérapages constatés dans les expériences menées avec l’IA ne se limitent pas à la reconnaissance faciale mais englobent plusieurs autres applications. Au-delà de l’ethnicité ou de la couleur, l’IA peut être sexiste, sélective et même discriminatoire dans ses “décisions”. En attestent les multiples projets entamés et abandonnés en cours de chemin: recrutement, achat de produits, accès aux soins… L’IA et ses technologies ne font pas mieux que l’être humain. Les femmes y sont associées au foyer et aux métiers de la com’, les hommes aux professions scientifiques, les prix des produits et services dépendent de la géolocalisation et du milieu social, les recrutements favorisent un sexe sur un autre…. Ces stéréotypes ont tellement la peau dure qu’ils se trouvent reproduits dans des programmes d’intelligence artificielle.
“Tel maître, tel chien”

“L’expression +Tel maître, tel chien+ n’est pas applicable qu’à nos animaux de compagnie, elle fonctionne aussi très bien pour l’intelligence artificielle, c’est même l’une de ses principales failles”. Or, cette intelligence et les algorithmes qui en découlent ne sont pas à blâmer principalement parce que l’IA ne connaît que ce qu’on lui montre. Si un logiciel est entraîné à reconnaître uniquement des visages de personnes “blanches”, il ne pourra pas savoir qu’il existe aussi des personnes qui ne sont pas blanches. Ou alors, il les considérera comme une donnée “anormale”. Cela vaut pour toute autre notion.

En 2014, une expérience de “machine learning” a été menée par les équipes d’Amazon. Cette expérience vise à entraîner la machine à sélectionner les meilleurs profils techniques, particulièrement des développeurs, à partir d’une banque de CV envoyés à l’entreprise. Un an plus tard, un constat alarmant a été fait. L’outil “n’aimait pas les femmes”. En effet, le choix opéré par la machine n’est pas sexiste. La machine étant “bête”, l’outil, qui avait été nourri des données de recrutement des dix dernières années dont la grande majorité des candidats, et des embauchés, étaient des hommes, a appris seul que les candidatures masculines étaient préférables et a pénalisé les CV contenant le mot “femme”. L’entreprise a fini par abandonner le projet.

Et ce n’est pas le seul. Finalement, puisque “les algorithmes de l’IA ont moins de sens commun qu’un rat”, s’il fallait agir sur la source du problème, ce n’est pas l’IA qu’il faut modifier. Ce serait les humains… “Les humains peuvent mentir sur les raisons pour lesquelles ils n’embauchent pas quelqu’un. A l’inverse, les algorithmes ne mentent pas et ne nous trompent pas”, affirme, dans le Guardian, Sandra Wachter, chercheuse en éthique des données et des algorithmes à Oxford. Artificielle mais sincère, au moins !

Lire aussi

La reprise du dialogue social illustre la volonté du gouvernement de parvenir à des solutions au profit de la classe ouvrière (Baitas)

jeudi, 28 mars, 2024 à 22:03

La reprise du dialogue social illustre la volonté du gouvernement de parvenir à des solutions à même de soutenir la classe ouvrière, a souligné, jeudi à Rabat, le ministre délégué chargé des Relations avec le Parlement, porte-parole du gouvernement, Mustapha Baitas.

La régulation du transport via les applications intelligentes tributaire du consensus entre les professionnels du secteur (ministre)

jeudi, 28 mars, 2024 à 20:38

La régulation du transport via les applications intelligentes est tributaire du consensus entre les différents intervenants dans le secteur du transport en commun au sujet de l’introduction de ce mode de transport sur le marché, a affirmé, jeudi, le ministre du Transport et de la Logistique, Mohamed Abdeljalil.

Produits alimentaires : 5.470 infractions constatées du 1er janvier au 27 mars

jeudi, 28 mars, 2024 à 20:08

Un total de 5.470 infractions a été constaté du 1er janvier au 27 mars, suite aux opérations de contrôle des prix et de la qualité des produits alimentaires effectuées par les commissions centrales et locales, selon la Direction de la Concurrence, des Prix et de la Compensation relevant du ministère de l’Économie et des Finances.