Tantangan Baru Keamanan di Era Integrasi AI dan Web3
Baru-baru ini, Pekan Blockchain Istanbul (IBW 2025) fokus pada tren integrasi AI dan Web3, menjadi platform penting untuk diskusi keamanan Web3 tahun ini. Selama acara tersebut, beberapa ahli industri melakukan diskusi mendalam tentang keadaan aplikasi teknologi AI dalam keuangan terdesentralisasi (DeFi) dan tantangan keamanannya.
Seiring dengan perkembangan cepat model bahasa besar (LLM) dan agen AI, sebuah paradigma keuangan baru—keuangan AI terdesentralisasi (DeFAI) sedang secara bertahap terbentuk. Namun, perubahan ini juga membawa permukaan serangan dan risiko keamanan yang baru.
Seorang eksekutif senior dari perusahaan keamanan menunjuk: "DeFAI meskipun memiliki prospek yang luas, tetapi juga membuat kita harus meninjau kembali mekanisme kepercayaan dalam sistem terdesentralisasi. Berbeda dengan kontrak pintar yang berbasis logika tetap, proses pengambilan keputusan agen AI dipengaruhi oleh konteks, waktu, bahkan interaksi sejarah. Ketidakpastian ini tidak hanya memperburuk risiko, tetapi juga menciptakan peluang bagi penyerang."
AI agen pada dasarnya adalah entitas cerdas yang dapat mengambil keputusan dan melaksanakan berdasarkan logika AI, biasanya diotorisasi untuk beroperasi oleh pengguna, protokol, atau DAO. Salah satu perwakilan paling khas adalah robot perdagangan AI. Saat ini, sebagian besar agen AI beroperasi di atas arsitektur Web2, bergantung pada server terpusat dan API, yang membuatnya rentan terhadap serangan injeksi, manipulasi model, atau pemalsuan data. Begitu terkompromi, tidak hanya dapat menyebabkan kerugian finansial, tetapi juga dapat mempengaruhi stabilitas seluruh protokol.
Para ahli juga membahas situasi serangan yang khas: ketika agen perdagangan AI yang dijalankan oleh pengguna DeFi sedang memantau pesan media sosial sebagai sinyal perdagangan, penyerang menerbitkan peringatan palsu, seperti "protokol tertentu diserang", yang dapat menggoda agen tersebut untuk segera memulai likuidasi darurat. Tindakan ini tidak hanya dapat menyebabkan kerugian aset pengguna, tetapi juga dapat memicu volatilitas pasar yang kemudian dapat dimanfaatkan oleh penyerang melalui perdagangan awal (Front Running).
Terkait dengan risiko ini, para ahli yang hadir umumnya percaya bahwa keamanan agen AI tidak seharusnya menjadi tanggung jawab satu pihak saja, melainkan menjadi tanggung jawab bersama antara pengguna, pengembang, dan lembaga keamanan pihak ketiga.
Pengguna perlu memahami batasan hak yang dimiliki oleh agen, hati-hati dalam memberikan hak akses, dan juga harus memperhatikan untuk memeriksa operasi berisiko tinggi dari agen AI. Pengembang harus menerapkan langkah-langkah pertahanan sejak tahap desain, seperti: penguatan prompt, isolasi sandbox, pembatasan kecepatan, dan logika pemulihan. Perusahaan keamanan pihak ketiga harus memberikan tinjauan independen terhadap perilaku model agen AI, infrastruktur, dan cara integrasi di blockchain, serta bekerja sama dengan pengembang dan pengguna untuk mengidentifikasi risiko dan mengusulkan langkah-langkah mitigasi.
Seorang ahli keamanan memperingatkan: "Jika terus menganggap agen AI sebagai 'kotak hitam', kecelakaan keamanan di dunia nyata hanyalah masalah waktu." Untuk para pengembang yang sedang mengeksplorasi arah DeFAI, ia menyarankan: "Sama seperti kontrak pintar, logika perilaku agen AI juga diimplementasikan melalui kode. Karena ini adalah kode, ada kemungkinan untuk diserang, sehingga perlu dilakukan audit keamanan yang profesional dan pengujian penetrasi."
Sebagai salah satu acara blockchain paling berpengaruh di Eropa, IBW telah menarik lebih dari 15.000 peserta yang terdiri dari pengembang global, pihak proyek, investor, dan regulator. Tahun ini, dengan dimulainya penerbitan lisensi proyek blockchain oleh Komisi Pasar Modal Turki (CMB), posisi industri IBW semakin meningkat.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
13 Suka
Hadiah
13
8
Bagikan
Komentar
0/400
AllInAlice
· 19jam yang lalu
Rasanya sekarang hanya perlu membawa proyek AI sudah cukup.
Lihat AsliBalas0
AirdropSweaterFan
· 08-06 08:26
Bunga yang mencolok, tetapi tidak dapat ditarik.
Lihat AsliBalas0
AltcoinOracle
· 08-06 07:21
menarik... analisis kepemilikan saya menunjukkan 87,4% korelasi antara kerentanan defai dan pola perdagangan Mesopotamia kuno sejujurnya
Lihat AsliBalas0
LootboxPhobia
· 08-06 07:19
Ini langsung masuk ke dalam lubang.
Lihat AsliBalas0
BridgeTrustFund
· 08-06 07:17
Keamanan semua ditujukan untuk dompet.
Lihat AsliBalas0
ChainWallflower
· 08-06 07:16
Tidak sesederhana itu, siapa yang tahu tentang hal-hal yang sulit diantisipasi~
Lihat AsliBalas0
SchroedingerMiner
· 08-06 07:15
Rasakan, jangan dengarkan omongan sembarangan dari para ahli, Rig Penambangan saya tidak pernah bermasalah.
Lihat AsliBalas0
PaperHandsCriminal
· 08-06 07:01
play people for suckers sudah beberapa tahun dan masih bermain, lahir memang ditakdirkan untuk menunggu tutup semua posisi.
AI dan Web3 yang terintegrasi menimbulkan tantangan baru dalam keamanan DeFi. Para ahli menyerukan perhatian terhadap audit agen AI.
Tantangan Baru Keamanan di Era Integrasi AI dan Web3
Baru-baru ini, Pekan Blockchain Istanbul (IBW 2025) fokus pada tren integrasi AI dan Web3, menjadi platform penting untuk diskusi keamanan Web3 tahun ini. Selama acara tersebut, beberapa ahli industri melakukan diskusi mendalam tentang keadaan aplikasi teknologi AI dalam keuangan terdesentralisasi (DeFi) dan tantangan keamanannya.
Seiring dengan perkembangan cepat model bahasa besar (LLM) dan agen AI, sebuah paradigma keuangan baru—keuangan AI terdesentralisasi (DeFAI) sedang secara bertahap terbentuk. Namun, perubahan ini juga membawa permukaan serangan dan risiko keamanan yang baru.
Seorang eksekutif senior dari perusahaan keamanan menunjuk: "DeFAI meskipun memiliki prospek yang luas, tetapi juga membuat kita harus meninjau kembali mekanisme kepercayaan dalam sistem terdesentralisasi. Berbeda dengan kontrak pintar yang berbasis logika tetap, proses pengambilan keputusan agen AI dipengaruhi oleh konteks, waktu, bahkan interaksi sejarah. Ketidakpastian ini tidak hanya memperburuk risiko, tetapi juga menciptakan peluang bagi penyerang."
AI agen pada dasarnya adalah entitas cerdas yang dapat mengambil keputusan dan melaksanakan berdasarkan logika AI, biasanya diotorisasi untuk beroperasi oleh pengguna, protokol, atau DAO. Salah satu perwakilan paling khas adalah robot perdagangan AI. Saat ini, sebagian besar agen AI beroperasi di atas arsitektur Web2, bergantung pada server terpusat dan API, yang membuatnya rentan terhadap serangan injeksi, manipulasi model, atau pemalsuan data. Begitu terkompromi, tidak hanya dapat menyebabkan kerugian finansial, tetapi juga dapat mempengaruhi stabilitas seluruh protokol.
Para ahli juga membahas situasi serangan yang khas: ketika agen perdagangan AI yang dijalankan oleh pengguna DeFi sedang memantau pesan media sosial sebagai sinyal perdagangan, penyerang menerbitkan peringatan palsu, seperti "protokol tertentu diserang", yang dapat menggoda agen tersebut untuk segera memulai likuidasi darurat. Tindakan ini tidak hanya dapat menyebabkan kerugian aset pengguna, tetapi juga dapat memicu volatilitas pasar yang kemudian dapat dimanfaatkan oleh penyerang melalui perdagangan awal (Front Running).
Terkait dengan risiko ini, para ahli yang hadir umumnya percaya bahwa keamanan agen AI tidak seharusnya menjadi tanggung jawab satu pihak saja, melainkan menjadi tanggung jawab bersama antara pengguna, pengembang, dan lembaga keamanan pihak ketiga.
Pengguna perlu memahami batasan hak yang dimiliki oleh agen, hati-hati dalam memberikan hak akses, dan juga harus memperhatikan untuk memeriksa operasi berisiko tinggi dari agen AI. Pengembang harus menerapkan langkah-langkah pertahanan sejak tahap desain, seperti: penguatan prompt, isolasi sandbox, pembatasan kecepatan, dan logika pemulihan. Perusahaan keamanan pihak ketiga harus memberikan tinjauan independen terhadap perilaku model agen AI, infrastruktur, dan cara integrasi di blockchain, serta bekerja sama dengan pengembang dan pengguna untuk mengidentifikasi risiko dan mengusulkan langkah-langkah mitigasi.
Seorang ahli keamanan memperingatkan: "Jika terus menganggap agen AI sebagai 'kotak hitam', kecelakaan keamanan di dunia nyata hanyalah masalah waktu." Untuk para pengembang yang sedang mengeksplorasi arah DeFAI, ia menyarankan: "Sama seperti kontrak pintar, logika perilaku agen AI juga diimplementasikan melalui kode. Karena ini adalah kode, ada kemungkinan untuk diserang, sehingga perlu dilakukan audit keamanan yang profesional dan pengujian penetrasi."
Sebagai salah satu acara blockchain paling berpengaruh di Eropa, IBW telah menarik lebih dari 15.000 peserta yang terdiri dari pengembang global, pihak proyek, investor, dan regulator. Tahun ini, dengan dimulainya penerbitan lisensi proyek blockchain oleh Komisi Pasar Modal Turki (CMB), posisi industri IBW semakin meningkat.