Безопасные вызовы, возникающие в результате интеграции ИИ и Web3: новые риски эпохи DeFAI
Недавно на мероприятии Blockchain Week, проведенном в Стамбуле, отраслевые эксперты провели глубокое обсуждение тенденций интеграции искусственного интеллекта и Web3, сосредоточив внимание на связанных с этим проблемах безопасности.
В течение мероприятия несколько экспертов в области безопасности участвовали в круглой таблице, чтобы совместно обсудить текущее состояние и потенциальные риски применения технологий ИИ в децентрализованных финансах ( DeFi ). С быстрым развитием крупных языковых моделей и ИИ-агентов постепенно формируется новая финансовая модель, называемая "DeFAI" (децентрализованные финансовые технологии на основе искусственного интеллекта). Однако эта инновация также привела к новым вектором атак и угрозам безопасности.
Один из экспертов на конференции отметил: "Хотя DeFAI имеет большие перспективы, это также заставляет нас переосмыслить механизмы доверия в децентрализованных системах. В отличие от традиционных фиксированных логических смарт-контрактов, процесс принятия решений AI-агентов подвержен влиянию множества факторов, включая контекст, время и даже исторические взаимодействия. Эта непредсказуемость не только увеличивает риски, но и предоставляет потенциальным злоумышленникам возможности для атаки."
AI-агенты — это интеллектуальные системы, способные принимать автономные решения и выполнять их на основе логики искусственного интеллекта, которые обычно действуют по поручению пользователей, протоколов или децентрализованных автономных организаций (DAO). Наиболее типичным примером являются AI-торговые роботы. В настоящее время большинство AI-агентов все еще функционируют на архитектуре Web2, полагаясь на централизованные серверы и API, что делает их уязвимыми для различных атак, таких как инъекции, манипуляции моделями или подделка данных. Если AI-агент будет захвачен, это может привести не только к прямым финансовым потерям, но и повлиять на стабильность всего протокола.
Эксперты также упомянули о возможном сценарии атаки: когда AI-торговый агент, действующий от имени пользователей DeFi, мониторит сообщения в социальных сетях в качестве торговых сигналов, если злоумышленник опубликует ложное предупреждение, например, утверждая, что какой-либо протокол подвергся атаке, это может спровоцировать агента немедленно запустить экстренные действия по ликвидации. Это не только приведет к потере активов пользователей, но и может вызвать колебания на рынке, которые злоумышленник сможет использовать с помощью методов, таких как фронт-раннинг.
По поводу этих рисков эксперты, присутствующие на встрече, в целом считают, что безопасность AI-агентов должна быть общей ответственностью пользователей, разработчиков и третьих сторон, обеспечивающих безопасность.
Во-первых, пользователи должны четко понимать объем полномочий, которыми обладает агент, осторожно предоставлять права и внимательно проверять высокорисковые действия AI-агента. Во-вторых, разработчики должны внедрять меры защиты на этапе проектирования, такие как укрепление подсказок, изоляция в песочнице, ограничение скорости и логика отката. Третьи стороны, занимающиеся безопасностью, должны предоставлять независимую проверку поведения модели AI-агента, инфраструктуры и способов интеграции на блокчейне, а также сотрудничать с разработчиками и пользователями для выявления рисков и предложений по их смягчению.
Безопасный эксперт предупредил: "Если мы продолжим рассматривать AI-агентов как 'черные ящики', то инциденты безопасности в реальном мире — это лишь вопрос времени." Для разработчиков, которые исследуют направление DeFAI, он предложил: "Как и в случае со смарт-контрактами, логика поведения AI-агентов также реализована в коде. Раз это код, существует возможность атаки, поэтому необходимо проводить профессиональный аудит безопасности и тестирование на проникновение."
С развитием технологий блокчейна и расширением их применения вопросы безопасности продолжат оставаться в центре внимания отрасли. В условиях большой тенденции слияния ИИ и Web3, как достичь баланса между инновациями и безопасностью станет важным вызовом для отрасли в ближайшее время.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
20 Лайков
Награда
20
6
Поделиться
комментарий
0/400
PancakeFlippa
· 08-01 20:24
Не говори так много, просто делай.
Посмотреть ОригиналОтветить0
quietly_staking
· 07-31 08:05
Безопасность - это ключевое. Поговорим об этом позже.
Безопасность AI-агентов становится новой проблемой в эпоху DeFAI. Эксперты призывают лонгующих разделить ответственность.
Безопасные вызовы, возникающие в результате интеграции ИИ и Web3: новые риски эпохи DeFAI
Недавно на мероприятии Blockchain Week, проведенном в Стамбуле, отраслевые эксперты провели глубокое обсуждение тенденций интеграции искусственного интеллекта и Web3, сосредоточив внимание на связанных с этим проблемах безопасности.
В течение мероприятия несколько экспертов в области безопасности участвовали в круглой таблице, чтобы совместно обсудить текущее состояние и потенциальные риски применения технологий ИИ в децентрализованных финансах ( DeFi ). С быстрым развитием крупных языковых моделей и ИИ-агентов постепенно формируется новая финансовая модель, называемая "DeFAI" (децентрализованные финансовые технологии на основе искусственного интеллекта). Однако эта инновация также привела к новым вектором атак и угрозам безопасности.
Один из экспертов на конференции отметил: "Хотя DeFAI имеет большие перспективы, это также заставляет нас переосмыслить механизмы доверия в децентрализованных системах. В отличие от традиционных фиксированных логических смарт-контрактов, процесс принятия решений AI-агентов подвержен влиянию множества факторов, включая контекст, время и даже исторические взаимодействия. Эта непредсказуемость не только увеличивает риски, но и предоставляет потенциальным злоумышленникам возможности для атаки."
AI-агенты — это интеллектуальные системы, способные принимать автономные решения и выполнять их на основе логики искусственного интеллекта, которые обычно действуют по поручению пользователей, протоколов или децентрализованных автономных организаций (DAO). Наиболее типичным примером являются AI-торговые роботы. В настоящее время большинство AI-агентов все еще функционируют на архитектуре Web2, полагаясь на централизованные серверы и API, что делает их уязвимыми для различных атак, таких как инъекции, манипуляции моделями или подделка данных. Если AI-агент будет захвачен, это может привести не только к прямым финансовым потерям, но и повлиять на стабильность всего протокола.
Эксперты также упомянули о возможном сценарии атаки: когда AI-торговый агент, действующий от имени пользователей DeFi, мониторит сообщения в социальных сетях в качестве торговых сигналов, если злоумышленник опубликует ложное предупреждение, например, утверждая, что какой-либо протокол подвергся атаке, это может спровоцировать агента немедленно запустить экстренные действия по ликвидации. Это не только приведет к потере активов пользователей, но и может вызвать колебания на рынке, которые злоумышленник сможет использовать с помощью методов, таких как фронт-раннинг.
По поводу этих рисков эксперты, присутствующие на встрече, в целом считают, что безопасность AI-агентов должна быть общей ответственностью пользователей, разработчиков и третьих сторон, обеспечивающих безопасность.
Во-первых, пользователи должны четко понимать объем полномочий, которыми обладает агент, осторожно предоставлять права и внимательно проверять высокорисковые действия AI-агента. Во-вторых, разработчики должны внедрять меры защиты на этапе проектирования, такие как укрепление подсказок, изоляция в песочнице, ограничение скорости и логика отката. Третьи стороны, занимающиеся безопасностью, должны предоставлять независимую проверку поведения модели AI-агента, инфраструктуры и способов интеграции на блокчейне, а также сотрудничать с разработчиками и пользователями для выявления рисков и предложений по их смягчению.
Безопасный эксперт предупредил: "Если мы продолжим рассматривать AI-агентов как 'черные ящики', то инциденты безопасности в реальном мире — это лишь вопрос времени." Для разработчиков, которые исследуют направление DeFAI, он предложил: "Как и в случае со смарт-контрактами, логика поведения AI-агентов также реализована в коде. Раз это код, существует возможность атаки, поэтому необходимо проводить профессиональный аудит безопасности и тестирование на проникновение."
С развитием технологий блокчейна и расширением их применения вопросы безопасности продолжат оставаться в центре внимания отрасли. В условиях большой тенденции слияния ИИ и Web3, как достичь баланса между инновациями и безопасностью станет важным вызовом для отрасли в ближайшее время.