国王 -Masab-Hawk

Menghabiskan cukup waktu di sekitar diskusi AI dan Anda akan memperhatikan sesuatu yang aneh. Kita berdebat tentang ukuran model, data pelatihan, biaya komputasi. Kita membandingkan tolok ukur. Tetapi hampir tidak ada yang mengajukan pertanyaan yang lebih sederhana. Siapa sebenarnya sistem ini

Bukan apa yang bisa dilakukannya. Siapa dia dalam sistem aturan.

Ketika seseorang menandatangani kontrak, memposting sesuatu yang sembrono, atau melakukan kesalahan di tempat kerja, ada konteks. Sejarah mengikuti mereka. Ada reputasi. Ada konsekuensi yang melekat. Dengan mesin, benang itu lebih tipis. Sebuah agen AI menjalankan tugas, sebuah bot melakukan perdagangan, sebuah robot menyelesaikan pengiriman, dan jika sesuatu rusak, jejak sering berhenti di nama perusahaan atau kunci API.

‎Habiskan beberapa menit dengan model AI mana pun dan Anda mulai memperhatikan sesuatu. Itu jarang ragu. Kalimat-kalimatnya tiba sepenuhnya terbentuk, percaya diri, hampir tenang. Bahkan ketika Anda merasakan sesuatu sedikit tidak tepat, nada tidak berkedip.

Kepercayaan itu adalah bagian dari ilusi.

Di bawahnya, sebagian besar sistem AI tidak beralasan dengan cara yang kita bayangkan. Mereka menghitung kemungkinan. Kata demi kata, berdasarkan pola yang telah mereka lihat sebelumnya. Ini terasa seperti pengetahuan. Secara teknis, ini adalah probabilitas.

Saya pikir ini adalah di mana banyak orang terjebak. Kita secara tidak sadar menganggap jawaban yang disusun dengan baik sebagai yang terverifikasi. Jika terdengar terstruktur dan tepat, kita menganggapnya harus berakar pada fakta. Tapi kefasihan bukanlah bukti. Itu hanya tekstur permukaan.

Ada pola aneh dalam teknologi. Kita membangun sesuatu yang kuat, kita merayakannya, dan hanya kemudian kita bertanya apakah itu dapat dipercaya. AI terasa seperti sedang berada di fase tengah saat ini. Sorak-sorai keras. Hati-hati lebih tenang, tetapi ada.

Saya sudah menghabiskan cukup banyak waktu mengamati orang-orang bereksperimen dengan alat AI untuk melihat pergeseran kecil. Awalnya, itu adalah rasa ingin tahu. Kemudian produktivitas. Sekarang itu adalah delegasi. Tugas tidak lagi hanya dibantu oleh AI, tetapi diserahkan. Dan itu mengubah tekstur emosional dari keseluruhan hal.