Prévenir les risques associés à l’intelligence artificielle

En accueillant de nouvelles entreprises de l’intelligence artificielle (IA) à Montréal, mardi, l’administration de Valérie Plante a estimé que plus de 130 emplois spécialisés seront créés dans la métropole. Mais avec ce «grand coup», viennent aussi des risques non négligeables d’un point de vue éthique et moral.

Le directeur de l’Institut des algorithmes d’apprentissage de Montréal et professeur de l’Université de Montréal, Yoshua Bengio, en a conscience. Il a lancé mardi un appel au développement responsable de l’intelligence artificielle, en rendant publique la Déclaration de Montréal. Par celle-ci, la sommité en intelligence artificielle veut créer un «cadre éthique» en ouvrant un espace de dialogue avec le public.

«On ne peut rien garantir, mais par contre, on peut agir dans la mesure de nos moyens, a-t-il expliqué à Métro, à propos des risques associés à l’IA. Ça veut dire d’en parler, de donner des outils aux personnes qui s’en préoccupent.»

Il faut forcer les organisations, a-t-il dit, «à s’engager vers la cohérence».

«Si une entreprise se plie à des principes rigoureux, et qu’elle agit à l’encontre de ceux-ci, on aura un document pour nous appuyer et dire que non, ce n’est pas responsable.» –Yoshua Bengio, à propos de la Déclaration de Montréal

L’expert ne s’en cache pas: il existe des risques derrière les bénéfices de l’intelligence artificielle. L’usurpation des données commerciales et la commercialisation de celles-ci en est un. «Mais de formaliser les notions, ça aide, a-t-il indiqué. Et de former un observatoire sur le développement socialement responsable, c’est nécessaire. Il faut que les gens comprennent mieux ce qu’il en est.»

Appelée à réagir sur cette question, la mairesse Valérie Plante s’est faite catégorique. «L’éthique, c’est très large, a-t-elle souligné en mêlée de presse. Ça va bien au-delà de la Ville. Le provincial et le fédéral doivent être interpellés pour mettre en place des règles qui s’assurent du respect des aspects moraux entourant l’intelligence artificielle.»

Elle a affirmé y voir aussi une occasion «d’éduquer le public». «L’intelligence artificielle, des fois, ça fait peur, a-t-elle avancé. On se demande ce que c’est cette affaire-là. Je n’ai pas lu la déclaration, mais je la vois déjà d’un très bon œil, pour une bonne responsabilité sociale.» Au-delà des chiffres, Montréal doit se positionner comme un leader moral de l’IA, a-t-elle ajouté.

Il y a 10 ans, le simple fait de parler d’intelligence artificielle «était mal vu dans plusieurs milieux, tellement on en était loin», a rappelé M. Bengio. «On est encore très loin, mais les progrès qu’on fait ont déjà un impact dans la vie des gens, donc nécessairement, l’éthique s’impose, a-t-il considéré. Ça sort maintenant de l’université, et il faut avoir une discussion, un débat.»

«Bassin de talent»
La question de la formation de la relève en intelligence artificielle est «essentielle», d’après la mairesse Plante. «C’est quelque chose dont on parle avec les établissements d’enseignement supérieur», a-t-elle estimé.

«Le besoin est là, et il y aura encore beaucoup d’emplois créés dans les prochaines années. Ce qu’il faut, c’est retenir les talents ici à Montréal et mieux former notre relève.» – Valérie Plante, mairesse de Montréal

L’enjeu, pour Yoshua Bengio, n’est pas tant de recruter les étudiants, mais bien de conserver l’expertise des professeurs. «On a parmi les meilleurs étudiants au monde. On compétitionne avec les Stanford et MIT. Mais la ressource rare en ce moment, ce sont les profs. Et c’est un goulot d’étranglement parce qu’ils forment la prochaine génération», a-t-il spécifié.

Lundi, quelque 29 nouvelles chaires de recherche ont été créées en intelligence artificielle au Canada, dont 14 à Montréal. «C’est des choses comme ça qui aident à recruter des enseignants, à financer les étudiants. Maintenant, il faut que les chercheurs recrutés puissent participer à la vie académique», a-t-il persisté.

Mais un tel exercice n’est pas simple, convient l’expert. «Les systèmes universitaires, les cégeps, les programmes de formation, ce ne sont pas des choses qui changent facilement et rapidement, a-t-il noté. Ça prend de la créativité et de l’agilité pour faire évoluer le milieu. Et il le faut. En Chine, ils ont déjà le pied sur l’accélérateur au maximum.»

Trois nouveaux visages
Trois nouveaux acteurs, tous en provenance du Royaume-Uni, se joindront d’ici quelques semaines au paysage entrepreneurial de l’IA montréalais. Ingénieurs, spécialistes, techniciens de données; plusieurs nouveaux débouchés seront ainsi crées.

• QuantumBlack, fondée à Londres il y a dix ans, se spécialise dans l’aérospatiale, les finances et les ressources naturelles. Elle installera son centre de recherche dans les bureaux de MILA, l’Institut québécois d’intelligence artificielle.
• WinningMinds, une jeune entreprise d’un an à peine conçoit une plateforme d’analyse conversationnelle commerciale qui se penche sur les compétences et les comportements en temps réel. Son objectif est de soutenir les organisations à choisir ses talents et à augmenter l’efficacité de ses effectifs.
• BIOS, jadis connue sous le nom de CBAS, opère depuis quatre ans. Elle œuvre dans le secteur de la neuro-ingénierie, en travaillant à la mise sur pied d’une interface ouverte matérielle et logicielle entre le système nerveux de l’humain et l’intelligence artificielle.