Слияние AI и Web3 порождает DeFAI, новые вызовы безопасности вызывают интерес в индустрии

Недавно в Стамбуле прошла неделя блокчейна (IBW 2025), сосредоточенная на тенденциях слияния ИИ и Web3, став важной платформой для обсуждения безопасности Web3 в этом году. В течение двух дней мероприятия несколько отраслевых экспертов провели глубокое обсуждение текущего состояния применения ИИ-технологий в децентрализованных финансах (DeFi) и связанных с ними проблем безопасности.

С быстрым развитием больших языковых моделей (LLM) и AI-агентов формируется новая финансовая модель — децентрализованные финансовые технологии на основе искусственного интеллекта (DeFAI). Однако эта инновация также приносит новые уязвимости и угрозы безопасности, вызывая широкий интерес в отрасли.

Некоторые руководители безопасности отметили: "Хотя DeFAI имеет большие перспективы, он также заставляет нас переосмыслить механизмы доверия в децентрализованных системах. В отличие от смарт-контрактов, основанных на фиксированной логике, процесс принятия решений AI-агентов зависит от контекста, времени и даже исторического взаимодействия. Эта непредсказуемость не только увеличивает риски, но и создает возможности для злоумышленников."

AI-агенты по сути представляют собой интеллектуальные системы, способные принимать самостоятельные решения и выполнять действия на основе логики ИИ, обычно разрешенные пользователем, протоколом или DAO. Наиболее типичным представителем являются AI-торговые роботы. В настоящее время большинство AI-агентов функционируют на основе архитектуры Web2, полагаясь на централизованные серверы и API, что делает их уязвимыми к атакам внедрения, манипуляциям с моделями или подделке данных. Как только они будут захвачены, это может привести не только к потерям средств, но и повлиять на стабильность всего протокола.

Эксперты также обсудили типичный сценарий атаки: когда AI-торговый агент, работающий у пользователей DeFi, следит за сообщениями в социальных сетях в качестве торговых сигналов, злоумышленник может выпустить ложные предупреждения, такие как "определенный протокол подвергся атаке", заставляя агента немедленно начать экстренную ликвидацию. Эта операция не только приведет к потерям активов пользователей, но также вызовет колебания рынка, которые затем могут быть использованы злоумышленником через фронт-раннинг.

По мнению экспертов, участвующих в обсуждении этих рисков, безопасность AI-агентов не должна полностью зависеть от одной стороны, а является общей ответственностью пользователей, разработчиков и третьих сторон, занимающихся безопасностью.

Пользователи должны четко понимать диапазон полномочий, которыми обладает агент, осторожно предоставлять полномочия и внимательно следить за высокорисковыми операциями AI-агента. Разработчики должны внедрять меры защиты на стадии проектирования, такие как усиление подсказок, изоляция в песочнице, ограничение скорости и логика отката. Третьи стороны безопасности должны проводить независимый аудит поведения модели AI-агента, инфраструктуры и способов интеграции в блокчейн, а также сотрудничать с разработчиками и пользователями для выявления рисков и предложения мер по их смягчению.

Некоторые эксперты по безопасности предупреждают: "Если продолжать рассматривать AI-агентов как 'черный ящик', то в реальном мире происшествия с безопасностью — лишь вопрос времени." Для разработчиков, которые исследуют направление DeFAI, он советует: "Как и в случае со смарт-контрактами, логика поведения AI-агентов также реализуется с помощью кода. Поскольку это код, существует возможность его атаки, поэтому необходима профессиональная проверка безопасности и тестирование на проникновение."

Стоит отметить, что IBW, являясь одним из самых влиятельных блокчейн-мероприятий в Европе, привлекло более 15 000 участников, включая разработчиков, проекты, инвесторов и регуляторов со всего мира. В этом году, с официальным запуском выдачи лицензий на блокчейн-проекты Комиссией по капитальным рынкам Турции (CMB), статус IBW в отрасли был дополнительно укреплен.