La fusion de l'IA et du Web3 donne naissance à DeFAI, de nouveaux défis de sécurité suscitent l'attention de l'industrie

Récemment, la Semaine de la Blockchain d'Istanbul (IBW 2025) s'est concentrée sur les tendances de la fusion entre l'IA et le Web3, devenant une plateforme importante pour les discussions sur la sécurité du Web3 cette année. Lors de cet événement de deux jours, plusieurs experts du secteur ont mené des discussions approfondies sur l'état d'application de la technologie IA dans la finance décentralisée (DeFi) et les défis de sécurité associés.

Avec le développement rapide des grands modèles de langage (LLM) et des agents AI, un nouveau modèle financier émergent - la finance décentralisée basée sur l'intelligence artificielle (DeFAI) - est en train de se former. Cependant, cette innovation a également introduit de nouvelles surfaces d'attaque et des risques de sécurité, suscitant une large attention dans l'industrie.

Un cadre d'une entreprise de sécurité a souligné : "Bien que DeFAI ait un bel avenir, il nous oblige également à réévaluer les mécanismes de confiance dans les systèmes décentralisés. Contrairement aux contrats intelligents basés sur une logique fixe, le processus décisionnel des agents IA est influencé par le contexte, le temps et même les interactions historiques. Cette imprévisibilité non seulement aggrave les risques, mais crée également des opportunités pour les attaquants."

Les agents AI sont essentiellement des entités intelligentes capables de prendre des décisions autonomes et d'exécuter des actions basées sur la logique AI, généralement autorisées à fonctionner par des utilisateurs, des protocoles ou des DAO. Le représentant le plus typique est le robot de trading AI. Actuellement, la plupart des agents AI fonctionnent sur une architecture Web2, dépendant de serveurs centralisés et d'API, ce qui les rend vulnérables aux attaques par injection, à la manipulation des modèles ou à la falsification des données. Une fois détournés, cela peut non seulement entraîner des pertes financières, mais aussi affecter la stabilité de l'ensemble du protocole.

Les experts ont également discuté d'un scénario d'attaque typique : lorsque l'agent de trading AI utilisé par les utilisateurs de DeFi surveille les messages sur les réseaux sociaux comme signaux de trading, un attaquant peut publier de fausses alertes, telles que "un certain protocole est attaqué", incitant l'agent à déclencher immédiatement une liquidation d'urgence. Cette opération peut non seulement entraîner une perte d'actifs pour les utilisateurs, mais également provoquer des fluctuations du marché, que l'attaquant peut ensuite exploiter par le biais de transactions anticipées (Front Running).

Concernant ces risques, les experts présents s'accordent à dire que la sécurité des agents AI ne doit pas être la seule responsabilité d'une partie, mais plutôt une responsabilité commune des utilisateurs, des développeurs et des organismes de sécurité tiers.

L'utilisateur doit être clair sur l'étendue des pouvoirs détenus par l'agent, accorder les permissions avec prudence et surveiller de près les opérations à haut risque de l'agent AI. Les développeurs doivent mettre en œuvre des mesures de défense dès la phase de conception, telles que le renforcement des prompts, l'isolement en bac à sable, la limitation de la vitesse et des mécanismes de logique de retour. Les sociétés de sécurité tierces doivent fournir un examen indépendant du comportement des modèles des agents AI, de l'infrastructure et des méthodes d'intégration en chaîne, et collaborer avec les développeurs et les utilisateurs pour identifier les risques et proposer des mesures d'atténuation.

Un expert en sécurité a averti : "Si nous continuons à traiter les agents IA comme une 'boîte noire', il n'est qu'une question de temps avant qu'un accident de sécurité ne se produise dans le monde réel." Pour les développeurs qui explorent la direction de DeFAI, il a conseillé : "Tout comme les contrats intelligents, la logique comportementale des agents IA est également réalisée par du code. Puisqu'il s'agit de code, il y a une possibilité d'attaque, donc il est nécessaire de procéder à un audit de sécurité professionnel et à des tests d'intrusion."

Il convient de noter qu'IBW, en tant que l'un des événements blockchain les plus influents en Europe, a attiré plus de 15 000 participants au total, comprenant des développeurs, des porteurs de projets, des investisseurs et des régulateurs du monde entier. Cette année, avec le lancement officiel par la Commission des marchés de capitaux de Turquie (CMB) de la délivrance de licences pour des projets blockchain, la position d'IBW dans l'industrie a été renforcée.