O problemă cu AI-ul modern este simplă, dar frustrantă.
Modelele pot produce răspunsuri încrezătoare care sunt parțial greșite.
Aceste halucinații nu sunt întotdeauna evidente. Uneori, răspunsul pare structurat și rezonabil. Dar o mică afirmație factuală din interiorul său ar putea fi incorectă. Când sistemele devin folosite pe scară mai largă, acea incertitudine începe să conteze.
Aici este locul în care ideea din spatele @Mira - Trust Layer of AI devine interesantă.
În loc să presupunem că un singur model AI ar trebui să verifice propriul său output, protocolul adoptă o abordare diferită. Tratază un răspuns AI ca un set de afirmații mai mici. Fiecare afirmație poate fi apoi verificată independent de alte modele.
În termeni simpli, răspunsul este spart în bucăți, iar acele bucăți sunt revizuite.
Rețeaua coordonează acest proces. Mai multe sisteme AI examinează afirmațiile și trimit rezultatele verificării. Consensul blockchain înregistrează apoi aceste rezultate într-un registru comun. Dovezile criptografice ajută la asigurarea că procesul de validare este transparent și greu de manipulat.
Acea design creează ceva asemănător cu un strat de verificare a faptelor distribuit.
În loc să avem încredere în modelul sau sistemul de moderare al unei singure organizații, verificarea devine o activitate de rețea. Participanții din sistem sunt stimulați economic prin tokenul $MIRA pentru a efectua lucrările de validare în mod onest.
Ideea este încă la început, totuși.
Folosirea mai multor modele de verificare necesită o computație semnificativă. Coordonarea între participanți este complexă. Și mai multe proiecte explorează o infrastructură similară pentru fiabilitatea AI-ului descentralizat.
Așa că #Mira și #MiraNetwork intră într-un spațiu care cel mai probabil va evolua rapid.
Totuși, gândul de bază este convingător.
Dacă sistemele AI conturează din ce în ce mai mult informațiile online, o metodă comună de verificare a afirmațiilor lor ar putea deveni la fel de importantă ca modelele în sine.
