Kemanan AI: fully homomorphic encryption atau menjadi solusi
Baru-baru ini, sebuah sistem AI bernama Manus telah mencapai hasil terobosan dalam pengujian benchmark GAIA, dengan kinerja yang melampaui model bahasa besar sekelas lainnya. Manus menunjukkan kemampuan untuk secara mandiri menyelesaikan tugas kompleks, seperti negosiasi bisnis lintas negara, yang melibatkan analisis kontrak, perumusan strategi, dan pengembangan rencana. Dibandingkan dengan sistem tradisional, Manus menunjukkan kinerja yang sangat baik dalam dekomposisi tujuan dinamis, penalaran lintas moda, dan pembelajaran yang ditingkatkan memori. Ia dapat membagi tugas besar menjadi banyak sub-tugas yang dapat dilaksanakan, sambil menangani berbagai jenis data, dan terus meningkatkan efisiensi dan akurasi keputusan melalui pembelajaran penguatan.
Kemajuan Manus sekali lagi memicu diskusi di industri mengenai jalur pengembangan AI: apakah akan menuju kecerdasan buatan umum (AGI), atau apakah sistem multi-agen (MAS) akan menjadi penguasa kolaboratif? Perdebatan ini pada dasarnya mencerminkan masalah inti tentang bagaimana menyeimbangkan efisiensi dan keamanan dalam pengembangan AI. Semakin dekat kecerdasan tunggal dengan AGI, semakin tinggi risiko ketidaktransparanan dalam proses pengambilan keputusan; sementara kolaborasi multi-agen dapat mendistribusikan risiko, namun mungkin kehilangan momen pengambilan keputusan yang krusial karena keterlambatan komunikasi.
Perkembangan Manus juga menyoroti risiko keamanan yang melekat pada sistem AI. Misalnya, dalam konteks medis, mungkin melibatkan data gen pasien yang sensitif; dalam negosiasi keuangan, mungkin menyentuh informasi keuangan perusahaan yang belum dipublikasikan. Selain itu, sistem AI mungkin memiliki bias algoritma, seperti memberikan saran gaji yang tidak adil terhadap kelompok tertentu dalam proses perekrutan. Ada juga risiko serangan adversarial, di mana peretas dapat menipu penilaian sistem AI melalui metode khusus.
Tantangan ini menggarisbawahi tren yang mengkhawatirkan: semakin pintar sistem AI, semakin luas potensi permukaan serangannya.
Dalam bidang Web3, keamanan selalu menjadi fokus utama. Saat ini telah berkembang berbagai teknologi enkripsi untuk menghadapi tantangan-tantangan ini:
Model Keamanan Zero Trust: Model ini mengharuskan autentikasi dan otorisasi yang ketat untuk setiap permintaan akses, dan tidak mempercayai perangkat default mana pun.
Identitas Terdesentralisasi (DID): Ini adalah standar identitas digital terdesentralisasi baru yang tidak memerlukan sistem pendaftaran terpusat.
fully homomorphic encryption (FHE): Ini adalah teknologi enkripsi canggih yang memungkinkan perhitungan pada data dalam keadaan terenkripsi, tanpa perlu mendekripsi.
Fully homomorphic encryption dianggap sebagai alat penting untuk mengatasi masalah keamanan di era AI. Ini dapat berperan dalam beberapa aspek berikut:
Tingkat data: Semua informasi yang dimasukkan oleh pengguna dapat diproses dalam keadaan enkripsi, bahkan sistem AI itu sendiri tidak dapat mendekripsi data asli.
Tingkat algoritma: Mewujudkan "pelatihan model enkripsi" melalui FHE, bahkan pengembang pun tidak dapat langsung mengamati proses pengambilan keputusan AI.
Tingkat kolaborasi: Komunikasi antar beberapa agen AI dapat menggunakan enkripsi kunci threshold, bahkan jika satu node disusupi, tidak akan menyebabkan kebocoran data global.
Dalam ekosistem Web3, sudah ada beberapa proyek yang berusaha mengeksplorasi teknologi keamanan ini. Misalnya, uPort meluncurkan solusi identitas terdesentralisasi pada tahun 2017, dan NKN merilis mainnet berbasis model zero trust pada tahun 2019. Sementara itu, dalam bidang fully homomorphic encryption, Mind Network adalah proyek FHE pertama yang diluncurkan di mainnet dan telah menjalin kerjasama dengan beberapa institusi terkenal.
Seiring teknologi AI semakin mendekati tingkat kecerdasan manusia, membangun sistem pertahanan yang kuat menjadi semakin penting. Fully homomorphic encryption tidak hanya dapat menyelesaikan masalah keamanan saat ini, tetapi juga mempersiapkan untuk era AI yang lebih kuat di masa depan. Di jalan menuju AGI, FHE mungkin bukan hanya sebuah pilihan, tetapi merupakan syarat yang diperlukan untuk memastikan sistem AI beroperasi dengan aman.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
fully homomorphic encryption FHE: solusi Web3 di bawah tantangan Kemanan AI
Kemanan AI: fully homomorphic encryption atau menjadi solusi
Baru-baru ini, sebuah sistem AI bernama Manus telah mencapai hasil terobosan dalam pengujian benchmark GAIA, dengan kinerja yang melampaui model bahasa besar sekelas lainnya. Manus menunjukkan kemampuan untuk secara mandiri menyelesaikan tugas kompleks, seperti negosiasi bisnis lintas negara, yang melibatkan analisis kontrak, perumusan strategi, dan pengembangan rencana. Dibandingkan dengan sistem tradisional, Manus menunjukkan kinerja yang sangat baik dalam dekomposisi tujuan dinamis, penalaran lintas moda, dan pembelajaran yang ditingkatkan memori. Ia dapat membagi tugas besar menjadi banyak sub-tugas yang dapat dilaksanakan, sambil menangani berbagai jenis data, dan terus meningkatkan efisiensi dan akurasi keputusan melalui pembelajaran penguatan.
Kemajuan Manus sekali lagi memicu diskusi di industri mengenai jalur pengembangan AI: apakah akan menuju kecerdasan buatan umum (AGI), atau apakah sistem multi-agen (MAS) akan menjadi penguasa kolaboratif? Perdebatan ini pada dasarnya mencerminkan masalah inti tentang bagaimana menyeimbangkan efisiensi dan keamanan dalam pengembangan AI. Semakin dekat kecerdasan tunggal dengan AGI, semakin tinggi risiko ketidaktransparanan dalam proses pengambilan keputusan; sementara kolaborasi multi-agen dapat mendistribusikan risiko, namun mungkin kehilangan momen pengambilan keputusan yang krusial karena keterlambatan komunikasi.
Perkembangan Manus juga menyoroti risiko keamanan yang melekat pada sistem AI. Misalnya, dalam konteks medis, mungkin melibatkan data gen pasien yang sensitif; dalam negosiasi keuangan, mungkin menyentuh informasi keuangan perusahaan yang belum dipublikasikan. Selain itu, sistem AI mungkin memiliki bias algoritma, seperti memberikan saran gaji yang tidak adil terhadap kelompok tertentu dalam proses perekrutan. Ada juga risiko serangan adversarial, di mana peretas dapat menipu penilaian sistem AI melalui metode khusus.
Tantangan ini menggarisbawahi tren yang mengkhawatirkan: semakin pintar sistem AI, semakin luas potensi permukaan serangannya.
Dalam bidang Web3, keamanan selalu menjadi fokus utama. Saat ini telah berkembang berbagai teknologi enkripsi untuk menghadapi tantangan-tantangan ini:
Model Keamanan Zero Trust: Model ini mengharuskan autentikasi dan otorisasi yang ketat untuk setiap permintaan akses, dan tidak mempercayai perangkat default mana pun.
Identitas Terdesentralisasi (DID): Ini adalah standar identitas digital terdesentralisasi baru yang tidak memerlukan sistem pendaftaran terpusat.
fully homomorphic encryption (FHE): Ini adalah teknologi enkripsi canggih yang memungkinkan perhitungan pada data dalam keadaan terenkripsi, tanpa perlu mendekripsi.
Fully homomorphic encryption dianggap sebagai alat penting untuk mengatasi masalah keamanan di era AI. Ini dapat berperan dalam beberapa aspek berikut:
Tingkat data: Semua informasi yang dimasukkan oleh pengguna dapat diproses dalam keadaan enkripsi, bahkan sistem AI itu sendiri tidak dapat mendekripsi data asli.
Tingkat algoritma: Mewujudkan "pelatihan model enkripsi" melalui FHE, bahkan pengembang pun tidak dapat langsung mengamati proses pengambilan keputusan AI.
Tingkat kolaborasi: Komunikasi antar beberapa agen AI dapat menggunakan enkripsi kunci threshold, bahkan jika satu node disusupi, tidak akan menyebabkan kebocoran data global.
Dalam ekosistem Web3, sudah ada beberapa proyek yang berusaha mengeksplorasi teknologi keamanan ini. Misalnya, uPort meluncurkan solusi identitas terdesentralisasi pada tahun 2017, dan NKN merilis mainnet berbasis model zero trust pada tahun 2019. Sementara itu, dalam bidang fully homomorphic encryption, Mind Network adalah proyek FHE pertama yang diluncurkan di mainnet dan telah menjalin kerjasama dengan beberapa institusi terkenal.
Seiring teknologi AI semakin mendekati tingkat kecerdasan manusia, membangun sistem pertahanan yang kuat menjadi semakin penting. Fully homomorphic encryption tidak hanya dapat menyelesaikan masalah keamanan saat ini, tetapi juga mempersiapkan untuk era AI yang lebih kuat di masa depan. Di jalan menuju AGI, FHE mungkin bukan hanya sebuah pilihan, tetapi merupakan syarat yang diperlukan untuk memastikan sistem AI beroperasi dengan aman.