Chelsea Manning rêve de technologies éthiques

Huit ans après avoir sonné l’alarme par rapport aux attaques par drones, aux bévues de l’armée et à la surveillance américaine en Iraq, et un an après sa sortie de prison, Chelsea Manning poursuit le combat pour améliorer l’éthique dans les nouvelles technologies. Retour sur son appel à l’action lors de la conférence C2 Montréal.

L’éthique appert de plus en plus comme un maillon faible des nouvelles technologies. Alors que plusieurs commencent à peine à s’en rendre compte, l’analyste du renseignement Chelsea Manning l’avait pressenti en 2010 en observant les développements et les ratés des technologies utilisées par l’armée américaine.

Publication de documents confidentiels sur le site WikiLeaks en 2010, arrestation, emprisonnement pour 35 ans pour espionnage, changement de sexe, tentatives de suicide, commutation de peine par Barack Obama à la fin de son mandat en 2017 : la suite fait partie de l’histoire.

L’activiste qui se présente au Sénat américain défend désormais plusieurs causes, comme celles des LGBTQ+, mais dans une ville où l’intelligence artificielle fait quotidiennement les manchettes, ce sont surtout ses préoccupations technologiques qui captent l’attention.

« Nous devons faire de meilleures technologies », plaide Chelsea Manning lors d’une conférence à C2 Montréal devant quelques centaines de spectateurs, majoritairement issus du milieu des affaires. Pour elle, le réveil à sa sortie de prison est brutal, alors que ce qui lui avait fait peur en 2010 continue de prendre de l’ampleur.

Les problèmes qu’elle évoque avec la technologie actuelle sont communs, comme l’introduction de biais dans les données utilisées par les algorithmes d’intelligence artificielle. « Quand j’étais en Iraq, nous faisions des rapports dans les quartiers que nous connaissions bien, mais pas dans les autres. Les données que nous recueillions étaient biaisées. Ce sont des angles morts pour l’intelligence artificielle, où la technologie renforce les biais existants », explique-t-elle. Ces biais sont désormais partout dans les algorithmes créés dans la Silicon Valley et utilisés par les corps de police aux États-Unis, par exemple.

Pour elle, les gadgets qui meublent nos vies sont aussi une menace. « Nos appareils ne travaillent pas pour nous. Ils travaillent pour les entreprises qui les fabriquent et pour les annonceurs. Ce sont des machines qui nous écoutent, et qui risquent constamment d’être attaquées », prévient-elle. Dans sa vie personnelle, Chelsea Manning garde d’ailleurs son propre téléphone dans une cage de Faraday (une boite ou une pochette de métal qui bloque les ondes émises par un appareil électronique), une façon de se protéger de tout suivi et tout enregistrement à distance.

Pour un code de l’éthique

Chelsea Manning milite désormais pour l’adoption d’un code de l’éthique et pour la mise en place d’une bonne hygiène éthique dans les entreprises.

Le code, qu’elle voit plus comme un serment d’Hippocrate que comme un guide officiel mis en place par un organisme international, devrait forcer les technologistes à réfléchir aux conséquences de leur travail à toutes les étapes du développement.

« Les entreprises effectuent constamment des évaluations techniques pour mesurer la faisabilité de leurs projets. Elles devraient aussi faire des évaluations éthiques », milite-t-elle. Quels pourraient être les effets néfastes potentiels, comment est-ce qu’un individu pourrait s’en servir à mauvais escient, comment est-ce que cette technologie pourrait influencer la société : voilà le genre de questions qu’il faudrait constamment se poser.

Les programmeurs, ingénieurs et autres technologistes ne devraient d’ailleurs pas attendre une consigne de leur patron pour le faire, mais ils devraient réfléchir eux-mêmes aux potentiels négatifs de leurs créations et prendre les choses en main.

« La technologie peut être positive, mais il faut faire attention à ce que l’on crée. Nous avons besoin d’une technologie éthique, avec des appareils sécuritaires et des logiciels sécuritaires, créés par des employés diversifiés. Ce sont des objectifs qui peuvent être atteints », croit l’activiste.