ROBO
Design per l'Allineamento
La comprensione umana e la capacità di proteggere in modo trasparente le azioni dei robot sono considerazioni importanti nella costruzione di tecnologie avanzate. Immagina se la Costituzione degli Stati Uniti fosse memorizzata come una Trasformazione di Burrows-Wheeler.
Questo faciliterebbe certamente la trasmissione dei dati, ma molte persone probabilmente preferirebbero l'attuale versione leggibile dall'uomo. Altre considerazioni includono la resistenza a codici o modelli malevoli.
Questo significa che stack modulari componibili (ad es. Modelli di Linguaggio Visivo (VLM) → LLM → generazione di azioni) potrebbero essere favoriti rispetto a modelli AI monolitici end-to-end o Modelli di Azione di Linguaggio Visivo (VLA), poiché comportamenti arbitrari e potenzialmente malevoli possono essere più facilmente nascosti al loro interno.