Ultimamente ho notato quanto le persone si affidino con nonchalance all'IA per avere risposte. Lo faccio anch'io. Una domanda veloce, una risposta veloce, e andiamo avanti come se la macchina sapesse di cosa sta parlando. Ma di tanto in tanto mi ricorda che l'IA può essere incredibilmente errata — non incerta, non esitante — semplicemente sbagliata in un modo molto convincente. È strano quanto facilmente dimentichiamo questo.
Questo pensiero mi è tornato in mente mentre leggevo del Fabric Protocol.
L'idea dietro il Fabric Protocol è sorprendentemente semplice alla sua base. Invece di trattare i sistemi di IA e i robot come scatole nere isolate, Fabric cerca di costruire una rete aperta dove le loro azioni, computazioni e interazioni dati possono essere verificate. In termini molto generali, è come creare un registro condiviso che registra cosa fanno le macchine e come prendono decisioni, permettendo agli umani e ad altri sistemi di controllare quei processi piuttosto che fidarsi ciecamente di essi.
Ciò che ha catturato la mia attenzione è che il progetto non sta cercando di "aggiustare l'IA" stessa. Si tratta più di creare uno strato di infrastruttura dove la fiducia può essere esaminata invece di essere assunta. In teoria, quel tipo di sistema potrebbe rendere la collaborazione tra umani e macchine più sicura e più trasparente.
Ma l'adozione è la vera questione. Le criptovalute hanno visto innumerevoli idee forti fallire semplicemente perché le persone non le hanno effettivamente utilizzate. Anche se la verifica è preziosa, gli utenti si preoccuperanno abbastanza da darvi priorità?
Il Fabric Protocol potrebbe eventualmente diventare uno strato di fiducia significativo per i sistemi di IA. O potrebbe semplicemente arrivare prima che il mondo sia pronto a pensare a questi problemi seriamente.
Se devo essere onesto, apprezzo la direzione dell'idea. Allo stesso tempo, la sfida che ci attende non è tecnologica — è se qualcuno richiede davvero questo livello di responsabilità dalle macchine.