L’intelligence artificielle crée “un risque d’extinction”, alertent… ses concepteurs
L’intelligence artificielle représente un risque d’“extinction” pour l’humanité, et cette menace devrait être “une priorité mondiale au même titre que d’autres risques pour nos sociétés, tels que les pandémies et la guerre nucléaire”. C’est ce qu’affirment ce 30 mai par une déclaration d’une phrase, en forme de mise en garde, plus de 350 dirigeants, chercheurs et ingénieurs du monde de la tech, rapporte The New York Times.
Parmi les signataires de cette brève lettre ouverte, publiée mardi par le Center for AI Safety (“Centre pour la sûreté de l’IA”, une organisation à but non lucratif), on trouve “les dirigeants de trois des firmes les plus en pointe sur l’IA : Sam Altman, patron d’OpenAI ; Demis Hassabis, à la tête de Google DeepMind ; et Dario Amodei, patron d’Anthropic”.
Sam Altman, à la tête de la société qui a mis au point ChatGPT, a déjà alerté sur ce sujet à plusieurs reprises, y compris lors d’un témoignage au Sénat des États-Unis.
Figurent aussi dans la liste des signataires “Geoffrey Hinton et Yoshua Bengio, deux des trois chercheurs qui ont remporté un prix Turing pour leur travail pionnier sur les réseaux neuronaux et qui sont souvent considérés comme les ‘pères’ du développement actuel de l’IA”.
“Coming out”
Comme le rappelle le journal new-yorkais, en mars dernier, plus de 1 300 chercheurs et acteurs de la tech, dont Elon Musk ou Yuval Noah Harari, avaient déjà appelé à un moratoire de six mois dans la recherche sur les systèmes d’IA les plus puissants. Toutefois, cette première lettre ouverte “n’avait pas recueilli beaucoup de signatures des principaux laboratoires de recherche sur l’IA”.
“La brièveté du communiqué du Center for AI Safety […] visait à réunir des experts de l’IA qui pourraient être en désaccord quant à la nature précise des risques ou aux mesures à prendre pour prévenir ces risques”, explique The New York Times.
D’après Dan Hendrycks, patron du Center for AI Safety, cette nouvelle lettre ouverte représente un “coming out” pour certains acteurs du secteur, qui étaient nombreux à exprimer leurs craintes seulement en privé. Le communiqué aurait été transmis à quelques experts avant de circuler dans plusieurs grands centres de recherche.
[...] Lire la suite sur Courrier international