Mira Network menjadi lebih masuk akal ketika Anda berhenti melihatnya sebagai proyek AI dan mulai mendekatinya seperti proyek kepercayaan.
Tim secara efektif berargumen ini: AI akan terus memberikan jawaban yang tampak yakin bahkan ketika mereka salah, dan kelemahan tunggal itu membatasi pergerakan dari asisten ke operator otonom dalam konteks nyata. Alih-alih menawarkan model yang tidak pernah meleset, Mira berusaha untuk membangun lapisan verifikasi yang berada di atas model dan mengubah keluaran mereka menjadi sesuatu yang dapat diandalkan oleh sistem lain. Pembingkaian mereka sendiri adalah bahwa jaringan menerjemahkan keluaran menjadi klaim yang dapat diverifikasi secara independen, kemudian beberapa model secara kolektif menilai apakah setiap klaim tersebut dapat dipertahankan.
Jika Anda melihat apa yang mereka rilis secara publik, pesannya konsisten. Mira Verify dipasarkan sebagai alat yang ditujukan untuk pengembang di mana berbagai model saling memeriksa pernyataan, dan hasilnya seharusnya dapat diaudit dan bukan diterima begitu saja. Scrolls by Mira tampak seperti lapisan pendamping yang membantu memperkenalkan individu pada cara jaringan memandang verifikasi dan partisipasi.
Yang membuat proyek ini menarik, dan yang membuat sebagian besar perspektif permukaan melewatkan intinya, adalah bahwa #Mira tidak mengkonfirmasi "jawaban." Ini mengkonfirmasi unit klaim. Itu tampak seperti perbedaan semantik sampai Anda membayangkan bagaimana ini benar-benar bekerja di dunia nyata.
Ketika sebuah model membuat sebuah paragraf, ia sering kali menggabungkan berbagai macam klaim. Beberapa bersifat faktual. Beberapa disimpulkan. Beberapa bergantung pada definisi. Beberapa bergantung pada waktu. Beberapa bergantung pada lokasi. Metode Mira adalah memisahkan paragraf tersebut menjadi bagian-bagian yang lebih kecil yang dapat diverifikasi secara independen, dan kemudian mengirimkan bagian-bagian tersebut kepada verifikator independen. Tujuannya bukan untuk membuat bahasa menjadi indah. Idenya adalah untuk membuat bahasa dapat diuji.
Tahap penguraian tersebut juga merupakan tempat pertama yang akan saya periksa jika saya mencoba memahami apa sebenarnya $MIRA itu.
Karena siapa pun yang mengontrol bagaimana materi dipisahkan menjadi klaim secara diam-diam mengontrol jenis kebenaran yang dapat dipahami oleh jaringan. Jika sistem dekonstruksi mereduksi pernyataan yang rumit menjadi pernyataan ya-atau-tidak yang tegas, hal itu dapat menciptakan kepastian yang salah. Jika sistem tersebut memecah argumen menjadi bagian-bagian yang kehilangan keterkaitannya, sistem tersebut dapat mengesahkan setiap fragmen sementara kesimpulan keseluruhan tetap tidak berdasar. Makalah ini menganggap penerjemahan ke dalam pernyataan yang dapat diverifikasi sebagai tahap desain dasar, bukan tambahan opsional, itulah sebabnya hal ini sangat penting.
Ini adalah argumen kontrarian yang sering terlewatkan karena tidak menarik: mendesentralisasi verifikator tidak serta merta mendesentralisasi lapisan dekomposisi. Pada fase awal, wajar jika alur transformasi dibangun dan dikendalikan dengan pendekatan yang lebih terpusat hanya karena seseorang perlu mengirimkannya. Bahasa peta jalan Mira mengakui desentralisasi progresif di berbagai komponen. Itu normal, tetapi menimbulkan masalah sederhana yang harus terus Anda tanyakan seiring perkembangan proyek: apakah jaringan mendesentralisasi bagian yang menentukan apa yang diverifikasi, atau sebagian besar mendesentralisasi bagian yang memberikan suara pada apa yang telah diputuskan sebelumnya?
Sekarang, dengan asumsi dekomposisi dilakukan dengan benar, tantangan kedua adalah apa implikasi dari kesepakatan bulat ketika para pemilih adalah model.
Pendekatan Mira pada dasarnya adalah verifikasi ensemble dengan tekanan ekonomi. Beberapa model memeriksa klaim yang sama, temuan mereka digabungkan, dan jaringan mencapai keputusan berdasarkan ambang batas. Secara teori, ini mengurangi halusinasi sesaat dan mendorong pernyataan untuk bertahan lebih dari sekadar logika internal model tunggal.
Namun konsensus bukanlah sinonim untuk kebenaran. Itu adalah sebuah filter. Filter yang bermanfaat, seringkali, tetapi tetap saja sebuah filter.
Setidaknya ada tiga jenis kegagalan yang tampak "sehat" dari luar karena sistem berkinerja sesuai harapan.
Salah satunya adalah titik buta bersama. Jika kumpulan verifikator didominasi oleh keluarga model yang serupa, dilatih pada korpus yang sebanding, atau bergantung pada sumber pengambilan yang serupa, Anda mungkin memperoleh kesepakatan yang kuat yang bukan merupakan konfirmasi independen, melainkan kesalahan yang berkorelasi. Poin Mira sendiri adalah bahwa variasi antara model dan operator harus meminimalkan bias statistik dan meningkatkan keandalan. Itu masuk akal, tetapi itu juga sesuatu yang perlu dipertahankan secara aktif oleh jaringan, karena tekanan biaya selalu mendorong sistem menuju verifikator mana pun yang paling murah dan tercepat.
Pola kedua adalah sensitivitas waktu. Banyak pernyataan yang akurat sampai suatu saat nanti tidak lagi akurat. Jika pihak yang memverifikasi sedikit saja tertinggal dari kenyataan, mereka mungkin dengan aman menyetujui sesuatu yang dulunya benar. Hal ini sangat penting bagi sistem "otonom" mana pun, karena akurasi yang usang mungkin sama berbahayanya dengan omong kosong belaka.
Pola ketiga adalah akurasi kontekstual. Suatu klaim mungkin sah di satu yurisdiksi dan salah di yurisdiksi lain. Klaim tersebut mungkin benar menurut satu pengertian dan salah menurut pengertian lain. Jika format klaim tidak menyampaikan informasi yang cukup, pihak yang memverifikasi wajib menjawab pertanyaan yang disederhanakan yang sebenarnya tidak didukung oleh kenyataan.
Inilah mengapa konsep sertifikat adalah elemen Mira yang paling saya anggap serius. Jika Anda akan bergantung pada verifikasi, Anda membutuhkan lebih dari sekadar lampu hijau. Anda membutuhkan catatan yang mencerminkan apa yang diperiksa, dalam keadaan apa, dan bagaimana kesepakatan diperoleh. Materi publik Mira mengandalkan keluaran yang dapat diverifikasi secara kriptografis dan kemampuan audit sebagai pembeda, yang merupakan jalur ideal jika mereka ingin sistem hilir menganggap temuan verifikasi sebagai bukti, bukan sekadar perasaan.
Kemudian ada insentif, di sinilah Mira mencoba menggeser verifikasi dari sekadar area "percayalah pada kami".
Makalah putih tersebut menyajikan perilaku node sebagai sesuatu yang diarahkan secara ekonomi, dengan langkah-langkah yang dimaksudkan untuk membuat verifikasi yang tidak jujur atau dilakukan dengan upaya rendah menjadi tidak logis. Hal itu membantu mengatasi masalah node malas, di mana operator dapat mencoba memprediksi atau memangkas komputasi. Tetapi insentif juga menimbulkan risiko yang lebih tersembunyi: jika imbalan sebagian besar terkait dengan meniru mayoritas, pilihan teraman menjadi kesesuaian. Seiring waktu, sistem mungkin bergeser ke arah memberi penghargaan pada "keselarasan" lebih daripada "kebenaran". Untuk mencegah hal itu, jaringan membutuhkan teknik untuk mendeteksi dan memberi penghargaan pada perbedaan pendapat yang tepat, bukan hanya menghukum perbedaan pendapat yang buruk. Itu bukan sekadar strategi pemasaran. Itulah perbedaan antara pasar verifikasi dan mesin konsensus.
Jadi, jika Anda menginginkan visi realistis yang berpusat pada proyek ini, inilah yang menurut saya sebenarnya ingin dicapai Mira.
Bukan obat mujarab untuk halusinasi. Bukan narasi lapisan dasar baru. Lebih seperti alat verifikasi yang dapat digunakan pengembang ketika mereka tidak mampu menanggung kegagalan yang tidak terdeteksi. Itulah yang coba dicapai Mira Verify saat ini: lapisan verifikasi praktis yang dapat berada dalam suatu proses dan menurunkan kemungkinan aplikasi bertindak berdasarkan pernyataan yang tidak berdasar.
Jika Mira berhasil, dari luar mungkin tampak tidak menarik. Tim mulai menganggap output model sebagai input yang tidak tepercaya secara default. Output tersebut diubah menjadi klaim. Klaim ditinjau oleh berbagai verifikator independen. Baru kemudian sistem mengotorisasi suatu tindakan atau menerbitkan respons. Ketika terjadi kesalahan, Anda dapat melacak rantai verifikasi dan menemukan apa yang sebenarnya diputuskan oleh jaringan, bukan apa yang seharusnya ditentukan.
Jika $MIRA gagal, biasanya terjadi dalam tiga cara yang tidak dramatis. Biaya verifikasi terlalu mahal atau terlalu lambat untuk barang asli. Lapisan dekomposisi menciptakan hambatan yang tidak pernah benar-benar terdesentralisasi. Atau kumpulan verifikator berkumpul menuju kelompok yang terbatas dan berkorelasi di mana kesepakatan tampak tinggi tetapi kurang independen daripada yang terlihat. @Mira - Trust Layer of AI
