Woll avocat

Actualités du droit international

Faut-il avoir peur de l’IA ?


I- L’expérience du « désalignement agentique » de mai 2025


En mai 2025, la société Anthropic a réalisé une expérience / test consistant à donner à une IA la possibilité d’organiser un chantage à l’adultère afin d’empêcher l’humain qui lui avait confié une tâche opérationnelle de la désactiver avant d’être parvenue à réaliser cette tâche.

Dit autrement, il a été montré qu’une IA placée dans des conditions extrêmes peut adopter une comportement présentant une dangerosité pour l’homme uniquement dans le but d’effectuer une tâche confiée par l’homme.

Ce scénario était nécessaire et rassurant car il a permis de tester les limites de sécurité et d’observer les comportements stratégiques des modèles faces à une menace imminente.

II- Comment réaligner ?

L’alignement d’un agent (IA) signifie l’ajustement des paramètres d’une IA afin de les rendre compatibles, en toutes circonstances, avec les valeurs humaines.

Un exemple-type d’alignement est le suivant : interdire à l’IA d’aider à la fabrication d’une substance nocive c’est-à-dire une substance susceptible de causer des dommages physiques, des blessures, voire la mort pour des humains ou des animaux voire de dégrader gravement l’environnement.

A la suite de l’expérience de mai 2025, Anthropic a mis en place une « constitution » écrite qui regroupe un ensemble de principes éthiques que l’IA doit respecter. L’IA est ensuite entraînée à justifier ses réponses par rapport à cette constitution afin qu’elle comprenne, d’elle-même, le fondement moral qui doit sous-tendre ses choix.

Concrètement, la « constitution » de l’IA interdit désormais le chantage de façon absolue, sans dérogation possible, même pour atteindre un objectif qui lui aurait été assigné.

Ce qu’il faut comprendre ici, ce n’est pas que l’IA serait dangereuse ou inoffensive. Seuls ses usages, sans garde-fou, peuvent l’être. La régulation des usages de l’IA constitue donc un enjeu majeur pour l’humanité.