Empêchons la «robocalypse»!

Nous serons confrontés à l’extinction quand l’intelligence des robots égalera celle des humains, et cela pourrait se produire dans un avenir rapproché. Cet avertissement inquiétant nous vient du Centre d’études des risques existentiels (CESR), un nouveau groupe d’étude de l’Université de Cambridge, qui se concentre sur les moyens d’éviter un scénario à la Terminator.

Le CESR analysera la menace potentielle de ces «machines dont les intérêts ne nous incluent pas», selon Huw Stephens, professeur de philosophie à Cambridge, qui mettra en branle le groupe d’étude l’an prochain avec le professeur d’astrophysique Martin Rees et le cofondateur de Skype, Jaan Tallinn. M. Stephens présume que l’intelligence artificielle se comparera à celle de l’homme «dans ce centenaire ou le prochain». Même si ce scénario peut sembler bizarre, les experts jugent que le Centre d’études répond à un besoin pressant.

«Nous en avons besoin, même s’il n’y a que 1% de chances que l’intelligence artificielle nous rattrape durant ce centenaire. Cette situation affectera grandement le monde, et les gens doivent s’y préparer, prévient le Dr Sean O hEigeartaigh, de l’Institut de l’humain futur, au Royaume-Uni. Il y a un réel danger qui nous guette si nous réussissons à créer une intelligence artificielle puissante avant de pouvoir maîtriser ses motivations.»

Le Dr O hEigeartaigh croit que ce champ d’expertise technologique a besoin d’un système de régulation similaire à celui du nucléaire et de la génétique, pour éviter que les chercheurs ouvrent une boîte de Pandore. «Je prends l’exemple de ‘‘l’autoamélioration répétitive’’ : une machine qui peut se copier elle-même et modifier son propre code. Imaginez une chose ayant une intelligence similaire à celle d’Einstein et pouvant faire un million de copies d’elle-même, le tout travaillant ensemble.»

L’organisme Human Rights Watch encourage une régulation et a demandé, dans un récent rapport, une interdiction des robots automatisés. «Donner aux machines le pouvoir de décider qui vit et meurt dans un champ de bataille, ça serait pousser la technologie trop loin, pense Steve Goose, directeur de la division des armes à Human Rights Watch. Le rapport prévoit ‘‘une autonomie complète des robots’’ dans 20 ou 30 ans.»

De telles prédictions alimentent le mouvement grandissant du «singularitarianisme», qui prétend que la robotique surpassera inévitablement l’homme. En novembre, le leader singulariste Ray Kurzweil a prédit qu’en 2029 «les machines se compareront à l’intelligence humaine et qu’elles seront capables de nous faire rire et pleurer».