Ricordo di aver letto una risposta dell'IA una volta e di aver pensato che fosse solida. La spiegazione era chiara, la logica sembrava pulita e sembrava abbastanza affidabile da non sentire il bisogno di metterla in discussione. Più tardi, ho controllato la fonte. La risposta sembrava convincente, ma l'assunzione alla base era errata. Quell'istante non mi ha reso scettico nei confronti dell'IA. Mi ha solo aiutato a capirla meglio. L'IA non ragiona nel modo in cui spesso immaginiamo. Sta prevedendo la sequenza di parole più probabile basata su schemi che ha appreso durante l'addestramento. La maggior parte delle volte funziona. Ma a volte porta a errori che sembrano comunque completamente sicuri. E quella sicurezza è la parte insidiosa. Quando l'IA inizia ad assistere con ricerche, analisi finanziarie o decisioni tecniche, un errore sicuro non è innocuo. Diventa rischio. Più persone si affidano all'output, più importante diventa la verifica. Ciò che ha catturato la mia attenzione riguardo a Mira è che affronta il problema in modo diverso. Invece di fidarsi di un singolo modello per produrre la migliore risposta, Mira tratta la risposta come qualcosa che dovrebbe essere esaminato. L'output è suddiviso in affermazioni più piccole, e quelle affermazioni vengono valutate indipendentemente da più modelli che sono incentivati a controllare l'accuratezza. Solo le parti che raggiungono consenso rimangono, e l'intero processo di valutazione è registrato sulla blockchain. Si tratta meno di fidarsi dell'intelligenza e più di creare un sistema che la verifica. L'idea sembra simile a come le blockchain gestiscono le transazioni. Niente viene accettato solo perché una parte dice che è valido. La rete lo verifica prima. Mira sembra applicare quella stessa logica all'informazione. Quando interagivo con essa, l'esperienza sembrava leggermente diversa. Un po' più lenta, sì, ma anche più deliberata. La risposta sembrava che fosse stata messa in discussione prima di raggiungermi. Dopo aver visto quanto possa essere convincente una risposta sbagliata, quel tipo di strato di verifica inizia a avere molto senso.
MIRA
0.0802
-2.43%