Il mercato attuale sta monitorando il livello delle applicazioni AI, ma il vero collo di bottiglia si trova nella potenza di calcolo (Compute). Con l'esplosione del numero di parametri dei modelli grandi, le risorse GPU dei fornitori di cloud centralizzati stanno diventando sempre più costose e scarse.
Questo è proprio il miglior momento per l'ingresso della tecnologia blockchain: una rete di potenza di calcolo decentralizzata.
È come se non avessimo bisogno che ognuno possieda una scheda grafica di alta gamma, ma possiamo utilizzare protocolli per richiamare la potenza di calcolo inutilizzata a livello globale per eseguire inferenze (Inference) o affinamenti (Fine-tuning).
Particolarmente per framework di inferenza ad alta capacità come vLLM, se riuscissimo a combinare meccanismi di incentivazione sulla blockchain, anche le schede grafiche di consumo inutilizzate potrebbero partecipare ai servizi di inferenza LLM, cambiando radicalmente la struttura dei costi dell'AI.
In futuro, forse la tua scheda grafica, mentre dorme, sta aiutando qualche AI Agent a guadagnare Token.💎