Prime Intellect Meluncurkan Prab_preview Tumpukan Inferensi untuk Memperkuat AI Terdesentralisasi!

๐Ÿง โš™๏ธ๐Ÿš€

Prime Intellect, sebuah protokol AI terdesentralisasi, baru saja mengungkap prab_preview Tumpukan Inferensi โ€” yang dirancang untuk mengatasi tantangan besar AI seperti:

โฑ๏ธ Efisiensi dekoding autoregresif

๐Ÿง  Bottleneck memori cache KV

๐ŸŒ Latensi jaringan publik

Tumpukan ini menggunakan desain paralel pipa untuk kepadatan komputasi tinggi dan eksekusi asinkron, membuatnya lebih mudah untuk menskalakan model besar pada GPU seperti RTX 3090 & 4090 ๐Ÿ”ฅ๐Ÿ’ป.

Bersamaan dengan prab_preview, mereka meluncurkan 3 alat sumber terbuka:

PRIME-IROH: Backend komunikasi P2P

PRIME-VLLM: Menghubungkan vLLM dengan paralelisme pipa di jaringan publik

PRIME-PIPELINE: Sandbox penelitian untuk pengembang & penggemar AI

Ini adalah kemenangan besar untuk ruang Web3 + AI โ€” menggabungkan desentralisasi dengan pembelajaran mesin mutakhir!

#PrimeIntellect #AIprotocols #Web3AI #vLLM #DeAI #CryptoNews