Un piccolo dettaglio sugli strumenti di intelligenza artificiale mi ha occupato la mente ultimamente.
Molte risposte dell'IA suonano estremamente sicure.
La lingua è fluida.
Le spiegazioni sembrano logiche.
Le risposte appaiono complete.
Eppure la sicurezza può a volte essere fuorviante.
I moderni modelli di IA sono costruiti su sistemi probabilistici. Predicono la sequenza di parole più probabile basata su schemi appresi da grandi set di dati. Questo design consente loro di produrre spiegazioni impressionanti.
Ma la probabilità non è la stessa della verifica.
Un modello può generare una risposta che sembra corretta pur contenendo informazioni incerte o errate.
Per un uso occasionale questo potrebbe non importare molto.
Ma man mano che i sistemi di intelligenza artificiale iniziano a supportare la ricerca, l'analisi e il lavoro professionale, l'affidabilità diventa sempre più importante.
Le persone devono sapere se le informazioni sono affidabili prima di fare affidamento su di esse.
Questa sfida ha portato a nuove idee su come i sistemi di intelligenza artificiale potrebbero verificare le informazioni invece di generarle semplicemente.
Un approccio esplorato da @Mira - Trust Layer of AI si basa sulla verifica decentralizzata.
Invece di accettare una risposta AI come un blocco unico di testo, l'output può essere suddiviso in affermazioni individuali.
Ogni affermazione rappresenta un'affermazione che può essere valutata in modo indipendente.
Queste affermazioni vengono quindi distribuite attraverso una rete di validatori AI.
Ogni validatore esamina l'affermazione dalla propria prospettiva.
Se un numero sufficiente di validatori raggiunge un accordo, il sistema forma un consenso sulla validità di quella affermazione.
Questa struttura introduce un cambiamento importante.
L'obiettivo non è più solo produrre risposte rapidamente.
L'obiettivo è garantire che quelle risposte possano essere verificate e confermate prima che le persone vi facciano affidamento.
Man mano che i sistemi di intelligenza artificiale diventano più potenti, questa distinzione potrebbe diventare essenziale.
Perché il futuro dell'intelligenza artificiale potrebbe non dipendere solo dalla generazione di conoscenza.
Potrebbe dipendere dal dimostrare che la conoscenza può essere fidata.
