AI dan Web3 bergabung melahirkan DeFAI, tantangan baru keamanan menarik perhatian industri

Belakangan ini, Minggu Blockchain Istanbul (IBW 2025) memfokuskan pada tren integrasi AI dan Web3, menjadi platform penting untuk diskusi keamanan Web3 tahun ini. Dalam acara yang berlangsung selama dua hari tersebut, beberapa ahli industri melakukan diskusi mendalam tentang status aplikasi teknologi AI dalam keuangan terdesentralisasi (DeFi) dan tantangan keamanannya.

Dengan perkembangan pesat model bahasa besar (LLM) dan agen AI, sebuah model keuangan baru yang muncul - Keuangan AI Terdesentralisasi (DeFAI) secara bertahap terbentuk. Namun, inovasi ini juga membawa permukaan serangan dan risiko keamanan yang baru, yang menarik perhatian luas dari industri.

Seorang eksekutif senior dari sebuah perusahaan keamanan menunjukkan: "DeFAI meskipun memiliki prospek yang luas, tetapi juga memaksa kita untuk meninjau kembali mekanisme kepercayaan dalam sistem terdesentralisasi. Berbeda dengan kontrak pintar yang berbasis logika tetap, proses pengambilan keputusan oleh agen AI dipengaruhi oleh konteks, waktu, bahkan interaksi sejarah. Ketidakpastian ini tidak hanya meningkatkan risiko, tetapi juga menciptakan peluang bagi para penyerang."

Agen AI pada dasarnya adalah entitas cerdas yang mampu mengambil keputusan dan mengeksekusi secara mandiri berdasarkan logika AI, biasanya diotorisasi untuk beroperasi oleh pengguna, protokol, atau DAO. Salah satu contoh paling khas adalah robot trading AI. Saat ini, sebagian besar agen AI berjalan di atas arsitektur Web2, bergantung pada server terpusat dan API, yang membuatnya rentan terhadap serangan injeksi, manipulasi model, atau pemalsuan data. Begitu terjerat, tidak hanya dapat menyebabkan kerugian finansial, tetapi juga dapat mempengaruhi stabilitas seluruh protokol.

Para ahli juga membahas skenario serangan yang khas: ketika agen perdagangan AI yang dijalankan oleh pengguna DeFi sedang memantau pesan media sosial sebagai sinyal perdagangan, penyerang mungkin memposting peringatan palsu, seperti "protokol tertentu diserang", yang menggoda agen tersebut untuk segera memulai likuidasi darurat. Tindakan ini tidak hanya akan menyebabkan kerugian aset pengguna, tetapi juga akan memicu volatilitas pasar, yang kemudian dapat dimanfaatkan oleh penyerang melalui perdagangan mendahului (Front Running).

Mengenai risiko-risiko ini, para ahli yang hadir secara umum berpendapat bahwa keamanan agen AI tidak seharusnya menjadi tanggung jawab satu pihak saja, melainkan merupakan tanggung jawab bersama antara pengguna, pengembang, dan lembaga keamanan pihak ketiga.

Pengguna perlu memahami batasan hak yang dimiliki oleh agen, dengan hati-hati memberikan hak akses, dan mengawasi operasi berisiko tinggi dari agen AI. Pengembang seharusnya menerapkan langkah-langkah pertahanan sejak tahap desain, seperti penguatan prompt, isolasi sandbox, pembatasan laju, dan logika fallback. Perusahaan keamanan pihak ketiga harus memberikan tinjauan independen terhadap perilaku model agen AI, infrastruktur, dan cara integrasi di blockchain, serta bekerja sama dengan pengembang dan pengguna untuk mengidentifikasi risiko dan mengusulkan langkah-langkah mitigasi.

Seorang ahli keamanan memperingatkan: "Jika terus menganggap agen AI sebagai 'kotak hitam', kecelakaan keamanan di dunia nyata hanyalah masalah waktu." Bagi para pengembang yang sedang mengeksplorasi arah DeFAI, ia menyarankan: "Sama seperti kontrak pintar, logika perilaku agen AI juga diimplementasikan oleh kode. Karena ini adalah kode, ada kemungkinan untuk diserang, oleh karena itu perlu dilakukan audit keamanan dan pengujian penetrasi yang profesional."

Perlu dicatat bahwa IBW, sebagai salah satu acara blockchain paling berpengaruh di Eropa, telah menarik lebih dari 15.000 peserta yang terdiri dari pengembang, pihak proyek, investor, dan regulator dari seluruh dunia. Tahun ini, dengan dimulainya pemberian lisensi proyek blockchain oleh Komisi Pasar Modal Turki (CMB), posisi industri IBW semakin meningkat.