Ultimamente ho pensato a un altro aspetto della conversazione sull'IA che non viene discusso molto spesso. Tutti parlano di quanto siano intelligenti questi sistemi, ma non molte persone parlano di cosa succede dopo che la risposta è generata.
In altre parole, chi controlla la risposta?
In questo momento, la maggior parte degli strumenti di intelligenza artificiale funziona in modo molto semplice. Fai una domanda e il modello produce una risposta basata su schemi appresi durante l'addestramento. La risposta può sembrare dettagliata, logica e estremamente convincente. Ma il sistema stesso di solito non si ferma a verificare se ogni parte della risposta sia effettivamente corretta.
Quella lacuna tra la generazione di informazioni e la loro verifica sembra essere un pezzo mancante.
Mentre leggevo di Mira Network, quell'idea mi ha colpito. Il progetto sembra concentrarsi nel trasformare le risposte dell'IA in dichiarazioni più piccole che possono essere valutate singolarmente. Invece di accettare un intero paragrafo come verità, il sistema può esaminare le affermazioni sottostanti una per una e consentire a modelli diversi nella rete di controllarle.
Ciò che trovo interessante è come questo cambi leggermente il ruolo dell'IA. Piuttosto che un singolo modello che agisce come un assistente onnisciente, il processo inizia a somigliare a una discussione in cui più sistemi valutano le stesse informazioni prima che un risultato finale venga accettato.
Per me, questo sembra un indirizzo più sano per l'infrastruttura dell'IA.
Man mano che gli agenti IA iniziano a interagire con mercati, applicazioni e persino sistemi automatizzati, fare affidamento sul giudizio di un modello potrebbe diventare rischioso. Uno strato di verifica che rallenta le cose giusto il tempo necessario per controllare i fatti potrebbe rivelarsi altrettanto importante quanto l'intelligenza stessa.
Questa è una delle ragioni per cui ho iniziato a prestare maggiore attenzione ai progetti che esplorano questo tipo di approccio.
#Mira @Mira - Trust Layer of AI $MIRA
