Các Mô Hình AI Đơn Lẻ Sẽ Chịu Sự Thất Bại Đây Là Lý Do Tại Sao Sự Đồng Thuận Phi Tập Trung Có Thể Thắng
Chúng tôi tiếp tục mở rộng các mô hình AI đơn lẻ như thể kích thước một mình giải quyết được niềm tin. Nó không giải quyết được.
Một mô hình đơn lẻ, không quan trọng nó tiên tiến đến mức nào, vẫn là một động cơ quyết định tập trung. Khi nó mắc lỗi, những lỗi đó sẽ ngay lập tức mở rộng. Những ảo giác, thiên kiến, và những không chính xác im lặng không phải là những trục trặc ngẫu nhiên mà là những hạn chế cấu trúc của các hệ thống cô lập được đào tạo trên dữ liệu bị giới hạn.
Bây giờ hãy tưởng tượng một cách tiếp cận khác. Thay vì tin tưởng vào đầu ra của một mô hình, hãy chia nó thành các tuyên bố có thể xác minh và để nhiều người xác nhận độc lập đạt được sự đồng thuận trước khi chấp nhận. Sự chuyển đổi đó thay đổi mọi thứ. Độ chính xác trở thành một kết quả tập thể, chứ không phải là giả định của một mô hình đơn lẻ.
Khi việc xác minh được phân phối và có động lực kinh tế, việc thao túng trở nên tốn kém và độ tin cậy tăng lên.
Câu hỏi trong tương lai không phải là liệu AI có lớn hơn hay không.
Mà là liệu nó có trở nên có trách nhiệm hay không.
Liệu trí tuệ cô lập có chiếm ưu thế hay liệu sự đồng thuận có bảo đảm thế hệ AI tiếp theo?