Baru saja ditemukan bahwa agen AI mulai menyimpan dendam
Tadi malam saya melihat seorang pengembang menjalankan serangkaian tes di Vanar: dua agen AI berbicara, A mengajukan permintaan, B tidak menghiraukan, lima menit kemudian A tiba-tiba mengungkit kembali—kata aslinya adalah "Mengapa kamu mengabaikan permintaanku tadi?".
Saya tertegun melihatnya. Setelah memeriksa, saya baru menyadari bahwa lapisan semantik Neutron di Vanar tidak hanya menyimpan data, tetapi juga memungkinkan AI menjalankan dengan ingatan. AI di rantai biasa seperti ikan mas, lupa bersih dalam tujuh detik. AI di Vanar dapat mengingat setiap kalimat yang kamu bicarakan dengannya, setiap hal yang telah kamu lakukan.
Teman-teman yang mengembangkan aplikasi AI menjadi bersemangat setelah mendengar ini: bukankah itu berarti pengguna dapat memberikan permintaan, dan pada saat AI diluncurkan kembali, AI masih dapat melanjutkan percakapan?
Ya, itulah yang ingin dilakukan Vanar. Rantai lain membuat AI menjadi layanan pelanggan, setelah ditanya langsung hilang. Vanar menjadikan AI sebagai pengurus, kapan pun kamu datang, ia akan mengingatmu. Pengguna tidak perlu mengulang menjelaskan latar belakang, AI tidak perlu belajar ulang setiap kali, biaya interaksi menurun drastis.
Setelah melihat data di jaringan uji coba, permintaan interaksi AI dengan konteks ingatan, dalam sebulan terakhir meningkat hampir tiga kali lipat. Trend ini cukup menarik—menunjukkan bahwa para pengembang mulai memikirkan bagaimana membuat AI benar-benar "memahami" pengguna, bukan sekadar membungkusnya dengan cara yang sederhana.
Akhirnya, orang itu mengatakan satu kebenaran: AI dapat mengingatmu, itulah yang disebut cerdas; jika AI tidak dapat mengingatmu, itu disebut mesin pencari.
