Новые вызовы безопасности в условиях слияния AI и Web3
Недавно Стамбульская неделя блокчейна (IBW 2025) сосредоточилась на тенденциях слияния ИИ и Web3, став важной платформой для обсуждения безопасности Web3 в этом году. В ходе мероприятия несколько экспертов отрасли провели глубокое обсуждение текущего состояния применения технологий ИИ в децентрализованных финансах (DeFi) и связанных с ними проблем безопасности.
С быстрым развитием больших языковых моделей (LLM) и AI-агентов формируется новая финансовая парадигма — децентрализованные финансовые технологии на основе искусственного интеллекта (DeFAI). Однако эта трансформация также принесла новые уязвимости и угрозы безопасности.
Некоторые высокопоставленные сотрудники одной из безопасных компаний отметили: "Хотя DeFAI имеет большие перспективы, это заставляет нас заново пересмотреть механизмы доверия в децентрализованных системах. В отличие от смарт-контрактов, основанных на фиксированной логике, процесс принятия решений AI-агентов зависит от контекста, времени и даже исторического взаимодействия. Эта непредсказуемость не только увеличивает риски, но и создает возможности для атакующих."
AI-агенты по сути являются интеллектуальными системами, способными принимать самостоятельные решения и выполнять действия на основе логики ИИ, обычно работающими по поручению пользователей, протоколов или DAO. Наиболее типичным представителем являются AI-торговые роботы. В настоящее время большинство AI-агентов функционируют на базе архитектуры Web2, полагаясь на централизованные серверы и API, что делает их уязвимыми к угрозам, таким как инъекционные атаки, манипуляции с моделями или подделка данных. Если они будут захвачены, это может не только привести к финансовым потерям, но и повлиять на стабильность всего протокола.
Эксперты также обсудили типичную ситуацию атаки: когда AI-торговый агент, работающий у пользователя DeFi, мониторит сообщения в социальных сетях в качестве торговых сигналов, злоумышленник может опубликовать ложное предупреждение, например, "протокол подвергся атаке", что может подтолкнуть агента немедленно начать экстренные распродажи. Эта операция не только приведет к потере активов пользователя, но и вызовет колебания на рынке, которые затем могут быть использованы злоумышленником через фронт-раннинг.
По мнению экспертов, присутствующих на встрече, безопасность AI-агентов не должна ложиться на одну сторону, а является общей ответственностью пользователей, разработчиков и третьих сторон, занимающихся безопасностью.
Пользователи должны четко понимать объем полномочий, принадлежащих агенту, осторожно предоставлять полномочия, а также обращать внимание на проверку высокорисковых операций AI-агента. Разработчики должны внедрять меры защиты на этапе проектирования, например: укрепление подсказок, изоляцию песочницы, ограничение скорости и механизмы отката. Третьи стороны компании безопасности должны предоставить независимую проверку поведения моделей AI-агентов, инфраструктуры и интеграции в блокчейн, а также сотрудничать с разработчиками и пользователями для выявления рисков и выработки мер по их смягчению.
Некоторые эксперты по безопасности предупреждают: "Если продолжать рассматривать AI-агенты как 'черные ящики', то несчастные случаи в реальном мире — это лишь вопрос времени." Для разработчиков, которые исследуют направление DeFAI, они советуют: "Как и в случае с умными контрактами, логика поведения AI-агента также реализована кодом. Поскольку это код, он может быть подвержен атакам, поэтому необходимо провести профессиональный аудит безопасности и тестирование на проникновение."
Как одно из самых влиятельных мероприятий в области блокчейна в Европе, IBW привлекла более 15 000 участников, включая разработчиков, проектные команды, инвесторов и регуляторов со всего мира. В этом году, с официальным запуском выдачи лицензий на блокчейн-проекты Комиссией по капиталу Турции (CMB), статус IBW в отрасли был дополнительно повышен.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
13 Лайков
Награда
13
8
Поделиться
комментарий
0/400
AllInAlice
· 23ч назад
Кажется, что сейчас достаточно просто иметь проект с ИИ.
Посмотреть ОригиналОтветить0
AirdropSweaterFan
· 08-06 08:26
Ненужные украшения, и нельзя вывести деньги.
Посмотреть ОригиналОтветить0
AltcoinOracle
· 08-06 07:21
удивительно... мой собственный анализ показывает 87.4% корреляция между уязвимостями defai и древними месопотамскими торговыми паттернами, честно говоря
Посмотреть ОригиналОтветить0
LootboxPhobia
· 08-06 07:19
Это сразу же заходит в яму.
Посмотреть ОригиналОтветить0
BridgeTrustFund
· 08-06 07:17
Безопасность всегда направлена на Кошелек.
Посмотреть ОригиналОтветить0
ChainWallflower
· 08-06 07:16
Не так уж и сложно, кто знает, что произойдет?~
Посмотреть ОригиналОтветить0
SchroedingerMiner
· 08-06 07:15
Чувствую, не слушайте этих экспертов, мои Риг для майнинга никогда не ломаются.
Посмотреть ОригиналОтветить0
PaperHandsCriminal
· 08-06 07:01
разыгрывайте людей как лохов несколько лет, а вы все еще играете. Вы просто рождены, чтобы сидеть и ждать закрыть все позиции.
Слияние ИИ и Web3 вызывает новые вызовы безопасности в Децентрализованных финансах. Эксперты призывают уделять внимание аудиту ИИ-агентов.
Новые вызовы безопасности в условиях слияния AI и Web3
Недавно Стамбульская неделя блокчейна (IBW 2025) сосредоточилась на тенденциях слияния ИИ и Web3, став важной платформой для обсуждения безопасности Web3 в этом году. В ходе мероприятия несколько экспертов отрасли провели глубокое обсуждение текущего состояния применения технологий ИИ в децентрализованных финансах (DeFi) и связанных с ними проблем безопасности.
С быстрым развитием больших языковых моделей (LLM) и AI-агентов формируется новая финансовая парадигма — децентрализованные финансовые технологии на основе искусственного интеллекта (DeFAI). Однако эта трансформация также принесла новые уязвимости и угрозы безопасности.
Некоторые высокопоставленные сотрудники одной из безопасных компаний отметили: "Хотя DeFAI имеет большие перспективы, это заставляет нас заново пересмотреть механизмы доверия в децентрализованных системах. В отличие от смарт-контрактов, основанных на фиксированной логике, процесс принятия решений AI-агентов зависит от контекста, времени и даже исторического взаимодействия. Эта непредсказуемость не только увеличивает риски, но и создает возможности для атакующих."
AI-агенты по сути являются интеллектуальными системами, способными принимать самостоятельные решения и выполнять действия на основе логики ИИ, обычно работающими по поручению пользователей, протоколов или DAO. Наиболее типичным представителем являются AI-торговые роботы. В настоящее время большинство AI-агентов функционируют на базе архитектуры Web2, полагаясь на централизованные серверы и API, что делает их уязвимыми к угрозам, таким как инъекционные атаки, манипуляции с моделями или подделка данных. Если они будут захвачены, это может не только привести к финансовым потерям, но и повлиять на стабильность всего протокола.
Эксперты также обсудили типичную ситуацию атаки: когда AI-торговый агент, работающий у пользователя DeFi, мониторит сообщения в социальных сетях в качестве торговых сигналов, злоумышленник может опубликовать ложное предупреждение, например, "протокол подвергся атаке", что может подтолкнуть агента немедленно начать экстренные распродажи. Эта операция не только приведет к потере активов пользователя, но и вызовет колебания на рынке, которые затем могут быть использованы злоумышленником через фронт-раннинг.
По мнению экспертов, присутствующих на встрече, безопасность AI-агентов не должна ложиться на одну сторону, а является общей ответственностью пользователей, разработчиков и третьих сторон, занимающихся безопасностью.
Пользователи должны четко понимать объем полномочий, принадлежащих агенту, осторожно предоставлять полномочия, а также обращать внимание на проверку высокорисковых операций AI-агента. Разработчики должны внедрять меры защиты на этапе проектирования, например: укрепление подсказок, изоляцию песочницы, ограничение скорости и механизмы отката. Третьи стороны компании безопасности должны предоставить независимую проверку поведения моделей AI-агентов, инфраструктуры и интеграции в блокчейн, а также сотрудничать с разработчиками и пользователями для выявления рисков и выработки мер по их смягчению.
Некоторые эксперты по безопасности предупреждают: "Если продолжать рассматривать AI-агенты как 'черные ящики', то несчастные случаи в реальном мире — это лишь вопрос времени." Для разработчиков, которые исследуют направление DeFAI, они советуют: "Как и в случае с умными контрактами, логика поведения AI-агента также реализована кодом. Поскольку это код, он может быть подвержен атакам, поэтому необходимо провести профессиональный аудит безопасности и тестирование на проникновение."
Как одно из самых влиятельных мероприятий в области блокчейна в Европе, IBW привлекла более 15 000 участников, включая разработчиков, проектные команды, инвесторов и регуляторов со всего мира. В этом году, с официальным запуском выдачи лицензий на блокчейн-проекты Комиссией по капиталу Турции (CMB), статус IBW в отрасли был дополнительно повышен.