Yahoo Actualités OpenAI (Dall-E, ChatGPT) s’organise pour éviter que l’IA cause des dégâts catastrophiques
OpenAI, le père de ChatGPT, annonce la création d’une équipe pour penser l’IA de demain, et les limites à lui donner pour éviter qu’elle ne nuise à l’humanité.
Éviter que l’intelligence artificielle ne nous tue tous. C’est, au fond, l’objectif qui est assigné à une toute nouvelle équipe qu’est en train de mettre en place OpenAI, l’entreprise américaine derrière ChatGPT et DALL-E. Plus exactement, il s’agit pour cette société spécialisée dans les chatbots d’anticiper et de se préparer aux risques futurs associés à l’IA.
Le nom de cette nouvelle équipe illustre d’ailleurs bien les intentions d’OpenAI : elle est nommée « Preparedness team », que l’on peut traduire en « équipe d’anticipation des risques ». Il s’agit, explique le fondateur d’OpenAI, Sam Altman, « d’évaluer, de prévoir et de se protéger contre les risques » relatifs à l’IA, et en particulier celle qui sera développée dans le futur.
Faire face aux IA allant « jusqu’aux confins de la superintelligence »
Dans son annonce, la société dédiée à l’IA générative (ChatGPT produit du texte à la demande, tandis que DALL-E fournit des images à la volée, sur la base d’instructions textuelles) insiste surtout sur les systèmes « à haute capacité », ceux allant « jusqu’aux confins de la superintelligence », capable d’égaler ou de surpasser l’intellect humain.
Crédits photos de l'image de une : Source : Marvel Studios
