MIRA

Oggi l'intelligenza artificiale si sta integrando in ogni settore, ma la sua sfida più grande è l'affidabilità. I modelli AI, specialmente i modelli di linguaggio di grandi dimensioni, producono output creativi e plausibili, ma le allucinazioni generano fatti errati e i pregiudizi possono portare a decisioni inaccurate o ingiuste, il che significa che nelle applicazioni ad alto rischio come la sanità, il diritto e la finanza non possono essere completamente fidati. Qualunque sia l'avanzamento di un singolo modello, il tasso di errore non è mai zero, a causa della sua natura probabilistica. La messa a punto offre miglioramenti in domini ristretti, ma non riesce a gestire nuove conoscenze, casi limite o la diversità del mondo reale. Pertanto, la supervisione umana è ancora necessaria, il che limita la scalabilità e l'autonomia.