Publicité

Technologie : les « robots-tueurs », une menace pour l’humanité ?

Des experts en intelligence artificielle se mobilisent contre les armes autonomes baptisées « robots-tueurs » qui pourraient constituer une nouvelle révolution dans les techniques de guerre.

Technologie : les « robots-tueurs », une menace pour l’humanité ?

Après « NAO », le Robot danseur et « Tell me Dave », le robot qui évolue en écoutant et conversant avec l’humain, le regard se porte aujourd’hui sur le robot tueur. 

Un type de robot notamment utilisé par les forces armées pour viser les cibles à distance en temps de guerre, mais cette technologie pourrait aussi devenir une menace, d’après des chercheurs en intelligence artificielle et robotique. Ces derniers souhaiteraient que la réalité ne dépasse jamais la fiction.

Lundi 27 Juillet 2015, le Wall Street Journal  publiait une lettre ouverte de ces experts anti-robotisation extrême demandant  «l’interdiction des armes autonomes ».

D’après le journal en ligne, l’astrophysicien britannique Stephen Hawking et le cofondateur d’Apple, Steve Wozniak, entre autres, expliquent que : « si une grande puissance travaille au développement des armes à intelligence artificielle, une course mondiale à l’armement est inévitable ». Il ajoute que « l’issue est évidente : les armes autonomes deviendront les kalachnikovs de demain ».

Une robotisation contrôlée et positive ?

Selon Tony Walsh, professeur d'Intelligence artificielle à l'Université New South Wales, en Australie, la robotisation dans l’armée répondrait à une démarche morale. Celle-ci permettrait aux soldats de ne pas avoir à se salir les mains, mais elle amoindrirait aussi les risques en matière de pertes humaines sur le terrain.

Aujourd’hui, bien qu’autonomes, ces dispositifs essentiellement utilisés comme systèmes de défense, sont contrôlés par un opérateur humain qui reste en charge de décider de l’activation ou non du tir face à une cible.

Inquiétude

Le premier risque serait que ces armes robotisées tombent entre de mauvaises mains, qui pourraient les utiliser à des fins personnelles. La possibilité de voir ces armes autonomes se répandre inquiète la communauté scientifique. Une mise en garde avait déjà lancée par Elon Musk, qui estimait en 2014 sur Twitter, que l'intelligence artificielle était « potentiellement plus dangereuse que le nucléaire ».

Encore plus grave, la crainte qu’un jour, ces robots se défassent du contrôle de l’homme et prennent des décisions volontairement. Les questions à se poser désormais : peut-on laisser des machines prendre des décisions militaires sans contrôle humain ? La crainte de Stuart Russel est, en effet, que les principes fondamentaux de la dignité humaine ne soient violés en permettant à des machines de choisir qui tuer, par exemple si elles ont pour mission d'éliminer quiconque a un comportement menaçant, note le Daily Telegraph.

L'autre risque, plus proche du danger que représente l'intelligence artificielle « Skynet » dans la célèbre saga de science-fiction Terminator initiée par James Cameron, est de voir les hommes dépassés par leur propre création. 

 « Les êtres humains sont limités par une évolution biologique lente, ils ne peuvent pas suivre la cadence », prévient l'astrophysicien Stephen Hawking, dans un entretien avec la BBC « L'intelligence artificielle pourrait se développer d'elle-même, se restructurer de son propre chef à un rythme de plus en plus rapide. », ajoute-encore le célèbre scientifique.

Vers un remake de « I, Robot » ?

Cela pourrait paraitre exagéré, mais on ressentirait presque une légère impression de déjà-vu.

Car en 2004, déjà,  le film de science-fiction « I, Robot »  relatait l’histoire de robots, dits androids en rapport à leur forme humaine, pleinement intégrés dans la vie quotidienne et dotés d’une intelligence artificielle et capable de prendre des décisions.

Problème, quelques jours avant la commercialisation d’une nouvelle gamme de robot, l’un des fondateurs  de l’entreprise décède dans ce qui semblerait être un meurtre par la main d’un des nouveaux robots. Il s’en suit alors une traque Robot VS Humain jusqu’à ce que le chargé de l’affaire, l’officier de Police Del Spooner (Will Smith) découvre que l’ordinateur central, VIKI, qui dirige l’ensemble des nouveaux robots a décidé, pour le bien des Hommes, mais aussi pour éviter la guerre et la pollution, de lancer tous les Androids dans le sur-contrôle global des humains, allant quelques fois à la mise à mort. L’officier parvient à vaincre le programme lancé, l’invasion des robots est ainsi stoppée.

Nous dirigeons-nous vers une invasion de ce genre ? La réalité rattraperait elle la science-fiction ? Évidemment; nous ne sommes pas encore à ce niveau de cohabitation avec la machine, mais il serait légitime de se demander si d’ici 20 à 30 ans, les robots ne seront pas totalement installés notre vie.

Il sera peut-être alors trop tard pour se demander si le fait qu'une machine puisse penser indépendamment de son créateur et bénéficier de son propre libre arbitre constituent de si bonnes idées que cela.