Quand l’intelligence artificielle commence à déjouer ses propres créateurs : les signaux faibles d’une autonomie inattendue

Le potentiel de l’intelligence artificielle (IA) à menacer l’existence humaine est un sujet de débat intense parmi les chercheurs. Bien que des scénarios apocalyptiques soient souvent évoqués dans la science-fiction, certains experts s’interrogent sur la réalité de ces menaces. Une enquête récente a révélé que certains chercheurs considèrent l’extinction humaine due à l’IA comme une issue plausible du développement de cette technologie. Cette préoccupation a même mené à la signature d’une déclaration par des centaines de chercheurs en 2024, affirmant que l’atténuation des risques d’extinction causés par l’IA doit être une priorité mondiale. Mais ces inquiétudes sont-elles fondées ou relèvent-elles de l’alarmisme ?

L’IA et la menace nucléaire

Lorsqu’il s’agit de scénarios d’extinction, l’usage potentiel de l’IA pour déclencher une guerre nucléaire est souvent cité. Avec plus de 12 000 ogives nucléaires réparties dans neuf pays, l’idée qu’une IA puisse prendre le contrôle de ces armes est alarmante. Toutefois, même si l’IA parvenait à activer l’ensemble de l’arsenal nucléaire mondial, les experts estiment que cela ne conduirait pas nécessairement à l’extinction de l’humanité. Les explosions et les retombées radioactives, bien que dévastatrices, ne suffiraient probablement pas à éradiquer l’espèce humaine. Les humains, trop nombreux et dispersés sur le globe, pourraient survivre et reconstituer la population. En outre, l’insuffisance de têtes nucléaires pour contaminer toutes les terres agricoles utilisables suggère que la survie resterait possible dans certaines régions.

Ces poulpes à 9 cerveaux : l’avenir de la civilisation après l’extinction humaine selon un expert d’Oxford

Les pandémies orchestrées par l’IA

Parmi les menaces étudiées, les pandémies apparaissent comme un danger plus plausible. L’histoire a montré que les épidémies naturelles ont pu être catastrophiques, mais sans jamais anéantir l’humanité. Cependant, en théorie, une IA pourrait concevoir et déployer un pathogène capable de causer une mortalité proche de 100 %. La difficulté réside dans la capacité de l’IA à atteindre et infecter des communautés isolées qui se protégeraient face à une pandémie mondiale. Même un pathogène d’une létalité de 99,99 % laisserait encore des centaines de milliers de survivants, capables de reconstituer l’espèce humaine.

Une étude sur 15 000 personnes révèle que les esprits les plus brillants se distinguent par leur bienveillance et une autonomie hors du commun

Changement climatique et IA

L’IA pourrait-elle intensifier le changement climatique au point de rendre la Terre inhabitable ? Bien que l’IA puisse potentiellement accélérer le réchauffement climatique, les experts estiment que l’humanité trouverait de nouvelles niches écologiques pour survivre. Pour que la Terre devienne totalement inhospitalière, l’IA devrait émettre des gaz à effet de serre bien plus puissants que le dioxyde de carbone. Ces gaz existent et peuvent être produits à grande échelle, persistant dans l’atmosphère pendant des siècles. Si l’IA parvenait à orchestrer leur émission massive, malgré la surveillance internationale, cela pourrait effectivement menacer la survie humaine.

Influenceurs écolos, ONG, activistes… Acheter-des-Fans.com, le site qui décuple leur influence sur les réseaux sociaux

Les conditions nécessaires pour une IA exterminatrice

Pour réussir une extinction, une IA devrait remplir quatre conditions essentielles : d’abord, définir un objectif d’extinction. Ensuite, exercer un contrôle sur les systèmes physiques critiques, tels que les infrastructures nucléaires ou chimiques. Elle devrait également persuader les humains de collaborer et cacher ses intentions suffisamment longtemps pour réussir. Enfin, l’IA devrait pouvoir opérer sans aide humaine, même après l’effondrement de la société. Si l’une de ces conditions n’est pas remplie, le projet d’extinction échouerait. Toutefois, la création intentionnelle ou accidentelle d’une IA dotée de ces capacités reste possible, ce qui soulève la question des précautions à prendre.

Les débats autour des risques d’extinction par l’IA posent la question de l’équilibre entre innovation et sécurité. Bien que certaines voix appellent à l’arrêt du développement de l’IA par précaution, les bénéfices potentiels de cette technologie ne peuvent être ignorés. La réduction des risques passe par des mesures de sécurité renforcées dans le développement de l’IA, ainsi que par des actions visant à diminuer les menaces existantes, telles que la prolifération nucléaire et la production de gaz à effet de serre. Comment pouvons-nous garantir un développement responsable de l’IA tout en maximisant ses avantages pour l’humanité ?