Dario Amodei, PDG d’Anthropic, une société américaine d’intelligence artificielle fondée par d’anciens membres d’OpenAI et créateur de ChatGPT, a publiquement admis que les modèles d’intelligence artificielle de classe Mythos représentent un risque réel pour le secteur financier, les infrastructures critiques et la sécurité nationale.
La déclaration apparaît dans l’essai “Politique sur l’IA Exponential”, publié ce 10 juin sur son site personnel, et intervient un jour après que l’entreprise a lancé Claude Fable 5 avec des restrictions explicites en matière de cybersécurité.
Selon Amodei, Mythos Preview a déjà modifié le paysage mondial de la cybersécurité et constitue la preuve que les modèles frontières sont des outils ayant une conséquence stratégique nationale. L’exécutif maintient que ces risques ne sont pas hypothétiques : Il s’agit d’une réalité actuelle qui nécessite une réponse réglementaire contraignante..
Il faut considérer, en ce sens, qu’Anthropic développe les modèles Claude et se positionne comme l’une des entreprises du secteur ayant la plus grande influence dans le débat réglementaire mondial. Quelque chose qui donne un poids direct aux avertissements de son PDG.
Le contexte immédiat est pertinent. Comme le rapporte CriptoNoticias, via Project Glasswing – le programme restreint avec lequel Anthropic distribue Mythos Preview depuis avril – la société et ses partenaires ont identifié plus de 10 000 vulnérabilités de gravité élevée ou critique dans les logiciels d’infrastructure systémique mondialel. Cloudflare, Mozilla, Microsoft, Oracle et Palo Alto Networks ont été inclus, ainsi que des banques et des institutions d’infrastructures critiques.
Les entreprises doivent s’autoréguler
Amodei suggère que les modèles qui dépassent un certain seuil de calcul doit se soumettre à des audits obligatoires par des tiers dans quatre domaines :
- Cybersécurité
- Armes biologiques.
- Perte de contrôle de l’IA et des systèmes de recherche
- Un développement automatisé qui accélère ces risques.
Selon l’essai, le gouvernement devrait avoir le pouvoir de bloquer ou d’annuler le déploiement d’un modèle s’il représente un risque inacceptable dans l’une de ces catégories.
La firme propose de calquer la réglementation sur l’IA sur la Federal Aviation Administration (FAA) des États-Unis : tout comme les avions doivent passer des tests techniques avant de fonctionner, les modèles frontières devrait exiger une certification avant le lancement.
Les sociétés de développement, selon le test, doivent également protéger les poids de leurs modèles, effectuer des tests d’intrusion périodiques et signaler immédiatement tout incident critique aux autorités.
Le PDG reconnaît le paradoxe implicite de sa position : Anthropic construit la technologie qu’il qualifie lui-même de dangereuseet promeut désormais sa réglementation contraignante, après avoir soutenu uniquement des cadres de transparence volontaires jusqu’en 2025.
L’échelle géopolitique, Amodei soutient que les démocraties doivent coordonner les cyberdéfenses basées sur l’IA et partagez des renseignements pour mettre fin aux utilisations malveillantes. Selon l’essai, une nation dotée d’une IA avancée contre une nation sans celle-ci équivaudrait à une armée moderne contre une armée médiévale.
Amodei prévient que les cyber-risques mis en avant par Mythos Preview ne seront pas les derniers : selon son analyse, les risques biologiques dérivés des modèles de nouvelle génération pourraient se matérialiser à court terme. Il ajoute que les risques exposés par Mythos Preview en cybersécurité, ils ne représentent pas le point d’arrivée, mais plutôt le point de départ.
Il s’agit d’une position controversée, car les critiques affirment que les avertissements des PDG de l’IA servent également à justifier des réglementations qui les favorisent et ralentissent l’innovation ouverte. Dans l’écosystème des cryptomonnaies, où l’IA est déjà utilisée aussi bien pour les audits de contrats que pour les exploits avancés, le débat est ouvert.
Dans ce cadre, la réglementation proposée aujourd’hui n’est pas conçue pour le problème le plus grave qu’elle anticipe, mais pour celui qui existe déjà, avec l’avertissement explicite que l’appareil de régulation Il devra évoluer aussi vite que la technologie..
