Intelligence artificielle (IA), ce sont les mots qu’on lit dans tous les articles de techno depuis un bout! Et qui intéresse même ma grand-mère! Parce que cette technologie devient omniprésente dans nos vies, il est important de s’assurer qu’elle évolue de la bonne façon, car ceci n’a pas toujours été le cas.

Me Gabrielle Paris Gagnon, avocate en droit des technologies chez Propulsio conseillers d’affaires 360, m’explique que, bien que l’IA soit un grand bond pour l’humanité, il n’en reste pas moins qu’elle n’est pas tout à fait au point.

«Pendant les dix dernières années, l’apprentissage profond a connu des percées sans précédent grâce à l’utilisation des cartes graphiques, à la disponibilité de bases de mégadonnées et aux avancées scientifiques, rapporte-t-elle. Cette période ne manque pas non plus d’exemples de ratées qui ont démontré les risques liés au manque de diversité au sein des équipes de travail. On peut penser, par exemple, aux systèmes de reconnaissance vocale qui tendent à mieux performer avec des voix d’hommes ou des systèmes de reconnaissance faciale qui ne détectent pas des utilisateurs noirs.»

Pour rappel, voici quelques cas où l’intelligence artificielle a connu des ratés (et je dis ça avec retenue). Sachez que plusieurs de ces cas n’existent plus aujourd’hui, car ils ont été corrigés.

  • Apple sort en 2014 une application pour évaluer notre santé. Il s’agit d’une super idée hautement nécessaire, mais malheureusement, les concepteurs n’avaient pas pensé à y inclure le suivi des cycles menstruels. 
  • Une petite fille de 12 ans adore jouer à des jeux vidéo (pour rappel, les jeux vidéo sont autant joués par les femmes que par les hommes) mais impossible de trouver un avatar qui lui ressemble en 2015. Dans plusieurs applications mobiles de jeux en ligne, les avatars ne sont que des garçons.
  • Un concours international de beauté est organisé en 2016 avec comme juge, un algorithme d’intelligence artificielle. Seules les femmes blanches ont été considérées comme étant belles parce que ce sont les données qu’on avait fournies au système.
  • Si vous faites une recherche dans Google Images avec le terme «doctor» en 2017, il ne ressort que des photos d’hommes parce qu’apparemment, une femme ne peut pas être médecin…
  • Aux débuts de l’assistant personnel d’Apple, en 2011, Siri n’était pas capable de vous aider à trouver la pilule du lendemain. En fait, elle ne comprenait même pas la requête.
  • Dans le registre des assistants – je devrais dire des assistantEs personnelLEs –, il a été prouvé à maintes reprises au cours des dernières années que l’attribution de voix féminines n’est qu’en fait le reflet de certains idéaux sexistes de la Silicon Valley.

Il existe bien d’autres cas et, encore, je n’ai pas abordé les situations où les personnes racisées ne sont pas prises en considération. Un autre exemple pour la route: un distributeur de savon «raciste» ne peut pas fonctionner lorsqu’une main dont la peau est noire s’avance. Et oui, on n’a pas pensé à enseigner à la machine à voir autre chose que des peaux blanches!

Pourquoi n’arrivons-nous pas à créer des systèmes inclusifs? Comme toutes les technologies, l’intelligence artificielle reflète les valeurs de ses créateurs. L’IA utilise les données que son créateur lui donne à «manger» et transmet donc les préjugés de celui-ci. Lorsqu’une équipe est mise en place pour développer une IA, il est crucial que cette équipe examine si les éléments de la diversité humaine et culturelle des systèmes sont bien pris en compte pendant la construction de l’algorithme. Ce n’est pas à l’intelligence artificielle de poser les questions, c’est aux conceptrices.eurs de penser à bien nourrir le système. L’intelligence artificielle n’est pas comme n’importe quelle technologie, insiste Gabrielle D. Paris

«Ce qui est important de se rappeler, c’est qu’avec les technologies traditionnelles, les programmeurs codent l’ensemble du processus décisionnel de la machine, souligne-t-elle. On connaît à l’avance le résultat des machines. Or, avec l’IA, les programmeurs n’ont pas le contrôle sur le résultat, rendant ainsi cruciale la phase d’entraînement des systèmes. Les programmeurs qui entraînent ces systèmes ont tendance à reproduire leur propre vision du monde et donc leurs propres biais.»

À moins que les membres de l’équipe représentent toutes les facettes de la diversité, il est impossible de se poser les questions nécessaires, car si quelque chose ne fait pas partie de votre réalité, vous n’y penserez même pas.

Que pouvons-nous y faire, alors? Si vous lisez régulièrement ce blogue, vous saurez que la réponse se trouve dans la diversité. Une opinion que partage Me Paris. «Ces expériences ont vite fait comprendre aux chercheurs et aux gens de l’industrie l’importance d’avoir des équipes diversifiées. C’est une manière de réduire les risques. Dans la phase d’entraînement, cela permet de s’assurer que les expériences de groupes diversifiés, notamment des femmes, des personnes racisées, issues de différentes classes sociales ou orientations sexuelles, soient représentées.»

Joëlle Pineau, qui est à la tête du laboratoire de recherche en intelligence artificielle de Facebook à Montréal, enfonce le clou quant à la nécessité d’avoir des femmes dans l’industrie. Selon elle, c’est le devoir de tous d’endosser cette responsabilité.

«Dans le domaine de la recherche sur l’IA, bien que nous ayons progressé, les femmes et les minorités ne sont pas encore bien représentées, et les femmes en particulier quittent le terrain à un rythme plus rapide que les hommes, écrit-elle dans un blogue. Nous devons tous faire un meilleur travail pour communiquer à quel point l’IA peut être diversifiée et fascinante pour encourager un plus grand nombre de personnes à s’y intéresser. Et nous devons encourager les carrières des jeunes scientifiques et offrir un environnement de travail intéressant, sûr et gratifiant pour tous les membres de la communauté.»

L’intelligence artificielle prend de plus en plus de place dans notre quotidien. Elle conditionne notre façon d’agir et de penser, comme les filtres de Facebook l’ont fait pour l’élection présidentielle américaine. Il est donc impératif d’avoir plus de femmes qui jouent un rôle dans le développement de ces technologies. Et pas juste pour les voix des assistants virtuels…

Aussi dans Techno :

Nous utilisons maintenant la plateforme de commentaires Facebook Comments sur notre site web. Grâce à celle-ci, vous pourrez laisser vos commentaires par l’entremise de votre compte Facebook directement sous les articles sur notre site web. Pour ceux qui ne sont pas membres du réseau social, nous vous invitons à faire vos commentaires via l’adresse courriel opinions@journalmetro.com. Merci de nous lire!