Yoshua Bengio : le premier rapport international sur la sécurité de l’IA et les dangers croissants de cette technologie

Colloque international de recherche sur l’intelligence artificielle

Le pionnier de l’IA Yoshua Bengio tirait jeudi la sonnette d’alarme sur les dangers croissants de l’intelligence artificielle, alors que se préparait le volet scientifique du sommet de Paris. Le chercheur canadien, lauréat du prix Turing, a mis en garde contre des risques allant de la désinformation aux attaques biologiques, et appelle à une régulation internationale urgente face à une course technologique qu’il juge particulièrement préoccupante.

En marge de l’ouverture du volet scientifique du sommet sur l’IA à Paris, en fin de semaine dernière, Yoshua Bengio, scientifique canadien et figure majeure de la recherche en intelligence artificielle, a lancé ce jeudi 6 février un avertissement solennel concernant les « retombées néfastes » de cette technologie en pleine expansion.

Le colauréat 2018 du prix Turing (avec Geoffrey Hinton et le Français Yann LeCun) a pointé du doigt plusieurs niveaux de risques. Si la création de faux contenus en ligne constitue déjà une réalité tangible, le chercheur s’inquiète de menaces émergentes plus graves, notamment dans les domaines des attaques biologiques et des cyberattaques. Plus préoccupant encore, il évoque le risque à long terme d’une perte de contrôle face à des systèmes d’IA développant « leur propre volonté de vivre ».

Nouveaux venus

L’arrivée récente du robot conversationnel chinois DeepSeek n’a fait qu’intensifier cette course technologique effrénée, au détriment de la sécurité selon l’expert. Face à ces enjeux, M. Bengio plaide pour un renforcement de la réglementation internationale et un investissement accru dans la recherche sur la sécurité de l’IA, qui ne représente actuellement qu’une part minime des financements du secteur.

Présentant les conclusions du premier rapport international sur la sécurité de l’IA à l’École normale supérieure (ENS) de Paris, le chercheur canadien n’a pas caché son inquiétude quant à la possibilité d’une disparition de l’humanité dans la décennie à venir. Ce rapport, fruit d’une collaboration entre une centaine d’experts mandatés par 30 pays et diverses organisations internationales, fait suite au sommet sur la sécurité de l’IA tenu au Royaume-Uni en novembre 2023.

Le sommet de Paris se poursuivra avec un volet culturel durant le week-end, avant d’aborder les aspects diplomatiques en début de semaine prochaine, les lundi 10 et mardi 11 février 2025.

Urbanitas.fr

Aller plus loin : les ressources en ligne

Ressource : International AI Safety Report (arxiv.org)

Ressource : International AI Safety Report 2025 (gov.uk)

Ressource : International AI Safety Report 2025 - (documentation.insp.gouv.fr)

Ressource : Bengio, Hinton and LeCun Ushered in Major Breakthroughs in Artificial Intelligence (awards.acm.org)