Pubblica
BELIEVE_
·
--
Pensavo che i problemi di fiducia nell'IA riguardassero i tassi di accuratezza.
Mira fa sembrare più un problema di responsabilità.
Quando un sistema di IA commette un errore, il danno non è statistico — è contrattuale. Qualcuno ha agito su quel risultato. Qualcuno l'ha approvato. Qualcuno possiede le conseguenze.
Ciò che è interessante nella direzione di Mira è che non chiede solo se una risposta è probabilmente corretta. Chiede se il processo di accettazione di quella risposta è difendibile.
Questo è un cambiamento sottile ma importante.
L'accuratezza migliora i modelli.
La difendibilità migliora i sistemi.
Man mano che l'IA si sposta nella finanza, nella conformità e nei flussi di lavoro ad alta automazione, "probabilmente corretto" non sarà sufficiente. Ciò che conta è se l'output è passato attraverso una struttura che distribuisce il rischio invece di concentrarlo.
Il futuro dell'adozione dell'IA non dipenderà da testi più intelligenti.
Dipenderà da chi può dire, con fiducia,
"Questo è stato verificato secondo regole su cui tutti noi abbiamo concordato."
@Mira - Trust Layer of AI #mira $MIRA
Mira fa sembrare più un problema di responsabilità.
Quando un sistema di IA commette un errore, il danno non è statistico — è contrattuale. Qualcuno ha agito su quel risultato. Qualcuno l'ha approvato. Qualcuno possiede le conseguenze.
Ciò che è interessante nella direzione di Mira è che non chiede solo se una risposta è probabilmente corretta. Chiede se il processo di accettazione di quella risposta è difendibile.
Questo è un cambiamento sottile ma importante.
L'accuratezza migliora i modelli.
La difendibilità migliora i sistemi.
Man mano che l'IA si sposta nella finanza, nella conformità e nei flussi di lavoro ad alta automazione, "probabilmente corretto" non sarà sufficiente. Ciò che conta è se l'output è passato attraverso una struttura che distribuisce il rischio invece di concentrarlo.
Il futuro dell'adozione dell'IA non dipenderà da testi più intelligenti.
Dipenderà da chi può dire, con fiducia,
"Questo è stato verificato secondo regole su cui tutti noi abbiamo concordato."
@Mira - Trust Layer of AI #mira $MIRA
Disclaimer: Include opinioni di terze parti. Non è una consulenza finanziaria. Può includere contenuti sponsorizzati. Consulta i T&C.