🤖⚠️ Intelligence artificielle : un enjeu existentiel dont on parle encore trop peu
J’ai eu récemment une rencontre fort instructive avec Samuel Buteau de Control AI, qui travaille sur les risques associés au développement de l’intelligence artificielle avancée. Une discussion qui fait réfléchir, surtout lorsque l’on réalise à quel point ce sujet demeure peu connu du grand public.
Il existe aujourd’hui plusieurs types d’IA. La majorité de celles que nous utilisons – comme les chatbots – sont des IA à usage général ou des systèmes spécialisés capables d’accomplir certaines tâches précises, par exemple la détection de cancers. Ces outils peuvent être extrêmement utiles.
Mais ce qui inquiète de plus en plus de chercheurs et de dirigeants de l’industrie, c’est la perspective d’une superintelligence artificielle, c’est-à-dire un système capable de surpasser l’humain dans toutes les tâches intellectuelles.
Le problème : il n’existe actuellement aucune balise internationale claire pour limiter ce développement.
En 2023, plus de 350 chercheurs, ingénieurs et dirigeants du secteur, dont les PDG d’OpenAI, Google DeepMind et Anthropic, ont signé une déclaration affirmant que le risque d’extinction lié à l’IA devrait être une priorité mondiale, au même titre que les pandémies ou la guerre nucléaire.
Certains dirigeants eux-mêmes reconnaissent que nous comprenons encore très mal le fonctionnement interne de ces systèmes. Dario Amodei, PDG d’Anthropic, affirme par exemple que les chercheurs ne comprennent qu’une petite fraction de la manière dont leurs propres modèles prennent des décisions.
Dans ce contexte, plusieurs organisations, dont Control AI, proposent la mise en place d’une coalition internationale visant à interdire le franchissement de certaines frontières technologiques, notamment celles menant à une superintelligence non contrôlée. L’idée serait de créer un système de confiance et de vérification, un peu comme les mécanismes internationaux de contrôle des armes nucléaires.
L’enjeu dépasse largement la technologie.
Il touche la sécurité mondiale, l’économie, la démocratie… et même la survie du vivant.
Si nous sommes capables de débattre collectivement du climat, des pandémies ou du nucléaire, nous devrons aussi ouvrir un débat sérieux et transparent sur l’avenir de l’intelligence artificielle.
Parce que lorsque ceux qui développent la technologie eux-mêmes tirent la sonnette d’alarme, il serait imprudent de ne pas les écouter.
