Pubblica
A R M I N
·
--
Perché fidarsi dell'AI potrebbe diventare il prossimo grande problema e come Mira cerca di risolverlo
Qualche giorno fa ho chiesto a uno strumento AI di riassumere un lungo documento di ricerca sulle criptovalute.
La risposta sembrava perfetta.
Struttura pulita.
Tono sicuro.
Tutto sembrava giusto.
Ma quando ho effettivamente controllato i dettagli, alcune cose erano leggermente imprecise.
Non completamente sbagliato, solo in modo convincente inaccurato.
È allora che mi è venuto in mente: il vero problema con l'AI oggi non è l'intelligenza.
È l'affidabilità.
I sistemi AI sono ottimi nel generare risposte plausibili, ma poiché lavorano in modo probabilistico, possono comunque produrre allucinazioni o output distorti, anche quando sembrano sicuri. Questa è una delle più grandi limitazioni dei modelli AI moderni oggi.
La risposta sembrava perfetta.
Struttura pulita.
Tono sicuro.
Tutto sembrava giusto.
Ma quando ho effettivamente controllato i dettagli, alcune cose erano leggermente imprecise.
Non completamente sbagliato, solo in modo convincente inaccurato.
È allora che mi è venuto in mente: il vero problema con l'AI oggi non è l'intelligenza.
È l'affidabilità.
I sistemi AI sono ottimi nel generare risposte plausibili, ma poiché lavorano in modo probabilistico, possono comunque produrre allucinazioni o output distorti, anche quando sembrano sicuri. Questa è una delle più grandi limitazioni dei modelli AI moderni oggi.
Disclaimer: Include opinioni di terze parti. Non è una consulenza finanziaria. Può includere contenuti sponsorizzati. Consulta i T&C.