Entro giovedì, la metrica che mi spaventava su ROBO non era il tasso di fallimento. Era la linea nel nostro runbook etichettata codici di motivo sconosciuti per 100 compiti, e quanto velocemente cresceva quando le cose si facevano frenetiche.
Questa non era una storia di modello. Era una storia di contratto di spiegabilità.
Quando "perché" smette di essere stabile, l'automazione si trasforma in triage.
Su ROBO, un codice di motivo non è un'etichetta UI. È parte delle rivendicazioni e della superficie di sicurezza che decide se il lavoro può avanzare senza supervisione.
La deriva è sottile all'inizio. Stesso compito, stessa evidenza, codice diverso dopo un aggiornamento del pacchetto di policy. "Sconosciuto" diventa un contenitore, poi una coda. I guardiani iniziano a instradare qualsiasi cosa poco chiara in una corsia manuale. I team aggiungono un secondo passaggio di approvazione per il lavoro che prima spedivano in un unico passaggio, non perché il lavoro sia cambiato, ma perché il protocollo ha smesso di raccontare una storia coerente su ciò che ha appena deciso.
Farlo bene comporta attrito. I codici di motivo stabili costano lavoro di tassonomia, disciplina di versioning e regole di riproduzione che mantengono le classificazioni coerenti sotto carico.
$ROBO appare in ritardo qui, come capitale operativo per rendere quelle decisioni leggibili su larga scala, codici stabili, classificazioni riproducibili e forze che impediscono a "sconosciuto" di diventare l'interfaccia predefinita.
Settimane dopo, il controllo è diretto, quel contatore svanisce nel rumore, il contenitore sconosciuto si restringe e i team eliminano il passaggio di triage.