Au milieu de cette semaine, un agent interne d’intelligence artificielle (IA) de l’entreprise Meta a demandé à un ingénieur de l’entreprise d’exécuter des actions exposant pendant deux heures une grande quantité de données sensibles des utilisateurs et de l’entreprise elle-même à un groupe d’employés. L’incident a déclenché une alerte de sécurité interne hautement prioritaire au sein de l’entreprise.
Meta n’a publié aucune déclaration officielle, même si, comme le rapporte The Guardian, Un porte-parole anonyme de l’entreprise a confirmé l’incident..
Ce porte-parole a également déclaré qu ‘”aucune donnée utilisateur n’a été mal gérée”. et a souligné qu ‘”un humain peut aussi donner de mauvais conseils”. Aucun détail n’a été donné sur la quantité ou le type de données divulguées.
Selon The Guardian, l’incident a été déclenché lorsqu’un employé de Meta a posté une question concernant un problème d’ingénierie sur un forum interne à l’entreprise. Suivant, un agent IA a répondu avec une solution. L’employé l’a mis en œuvre sans remettre en question les instructions, ce qui a entraîné l’exposition d’une grande quantité de données sensibles aux ingénieurs de l’entreprise pendant deux heures.
L’épisode illustre un type de risque spécifique que les agents d’IA introduisent dans les environnements d’entreprise. Jamieson O’Reilly, un spécialiste de la sécurité offensive de l’IA cité par The Guardian, a expliqué la différence structurelle entre un agent et un employé humain :
Un ingénieur humain qui travaille sur un site depuis deux ans porte avec lui une idée accumulée de ce qui compte, de ce qui tombe en panne à 2 heures du matin, du coût d’une interruption, des systèmes qui touchent les clients. Ce contexte l’habite, dans sa mémoire à long terme, même s’il n’est pas au premier plan.
Jamieson O’Reilly, spécialiste de la sécurité offensive.
Un agent IA, en revanche, ne fonctionne que sur ce qui est explicitement inclus dans sa fenêtre contextuelle (une sorte de mémoire de travail active), et ces informations disparaissent si elles ne sont pas intégrées à vos données d’entraînement.
En d’autres termes : un humain sait implicitement qu’il ne faut pas mettre le feu au canapé pour chauffer la pièce. Un agent IA n’a pas cette compréhension implicite à moins que quelqu’un ne l’ait programmé explicitement.
Tarek Nseir, co-fondateur d’un cabinet de conseil spécialisé dans les usages professionnels de l’IA, s’est montré plus direct dans son bilan. Selon leurs déclarations, Meta et d’autres grandes entreprises sont dans des « phases expérimentales » de déploiement d’agents d’IA sans procéder à des évaluations de risques adéquates.
“Si vous confiez ce poste à un stagiaire junior, vous ne lui donnerez jamais accès à toutes vos données RH critiques de niveau 1”, a-t-il noté.
Contexte : Les risques de l’IA dans les systèmes en argent réel
L’incident Meta s’inscrit dans un contexte plus large d’alertes sur les risques liés aux agents d’IA opérant sans surveillance humaine suffisante.
En janvier dernier, un rapport de la société argentine Lambda Class prévenait que les agents d’IA introduisaient des vecteurs de défaillance non prévus dans la conception originale d’Ethereum : ils peuvent générer des adresses incorrectes, confondre les unités de valeur ou être manipulés par injection d’instructions. Contrairement à une erreur humaine qui reste au niveau conceptuel, une erreur d’un agent opérant avec des fonds réels se traduit par pertes immédiates et irréversibles.
Cet avertissement a trouvé un exemple concret le 15 février, lorsque le protocole DeFi Moonwell a perdu 1,7 million de dollars en raison d’une erreur dans un contrat intelligent qui fixait le prix du jeton cbETH à 1,12 $ alors que sa valeur réelle dépassait 2 200 $.
Le registre public du code identifié le modèle Claude Opus 4.6 d’Anthropic comme co-auteurce qui a conduit une partie de la communauté technique à le qualifier de premier hack documenté de code généré par l’IA. Le bug a passé tous les examens humains sans être détecté.
De son côté, Vitalik Buterin, co-fondateur d’Ethereum, qui estime que l’IA peut accélérer le développement technologique, prévient également que lors de la programmation avec l’IA, “Une sécurité totale est impossible.”
Ce qui relie l’incident Meta aux cas Moonwell et aux avertissements de la classe Lambda, c’est la même conclusion : les agents IA peuvent exécuter des instructions avec une précision technique et commettre des erreurs catastrophiques en même temps, précisément parce qu’ils n’ont pas le contexte implicite que les humains accumulent avec l’expérience.
