Một điều tôi nhận thấy về các hệ thống AI hiện đại là cách mà những lỗi nhỏ dễ dàng lọt vào những câu trả lời thuyết phục.
Phản hồi có thể trông có vẻ suy nghĩ. Ngôn ngữ chảy trôi tốt. Tuy nhiên, ở đâu đó bên trong phần giải thích, một chi tiết có thể sai hoặc hơi được bịa ra. Hệ thống tiếp tục như thể không có gì xảy ra.
Đó là phần kỳ lạ của độ tin cậy của AI. Một câu trả lời đơn lẻ có thể chứa cả lý luận mạnh mẽ và những sai lầm nhỏ.
Trong khi đọc về @Mira - Trust Layer of AI , tôi bắt đầu suy nghĩ về một cách tiếp cận khác cho vấn đề này.
Thay vì yêu cầu một mô hình AI tạo ra và xác minh thông tin cùng một lúc, Mira coi một câu trả lời giống như một tập hợp các tuyên bố nhỏ. Mỗi tuyên bố trở thành một điều gì đó có thể được kiểm tra độc lập.
Các mô hình AI khác nhau xem xét những phần đó và đánh giá xem chúng có vẻ chính xác hay không.
Các phán quyết của họ sau đó được phối hợp thông qua sự đồng thuận blockchain. Mạng lưới ghi lại kết quả xác minh bằng cách sử dụng các chứng cứ mật mã, điều này tạo ra một lớp tin cậy chia sẻ không phụ thuộc vào một tổ chức đơn lẻ.
Nói một cách đơn giản, hệ thống hoạt động giống như một hội đồng đánh giá phân tán cho các đầu ra của AI.
Mã thông báo $MIRA giúp cấu trúc các ưu đãi cho những người tham gia thực hiện công việc xác minh. Những người xác thực đóng góp tài nguyên tính toán để kiểm tra các tuyên bố và giúp mạng lưới đạt được sự đồng thuận về thông tin nào là chính xác.
Thiết kế đó là điều làm cho #Mira trở nên thú vị.
Thay vì một công ty đóng vai trò là quyền lực tối cao về độ chính xác của AI, việc xác minh trở thành một điều gì đó gần gũi hơn với một cơ sở hạ tầng chia sẻ. Nhiều hệ thống độc lập tham gia vào việc đánh giá thông tin.
Tất nhiên, ý tưởng này cũng đặt ra những mối quan tâm thực tiễn.
Việc chạy nhiều mô hình xác minh tốn chi phí tính toán. Việc phối hợp các nhà xác thực phi tập trung không hề đơn giản. Và các dự án trong không gian AI phi tập trung đang khám phá những lớp tin cậy tương tự, điều này có nghĩa là sự cạnh tranh sẽ có khả năng gia tăng.
Vì vậy #MiraNetwork vẫn cảm thấy như một nỗ lực sớm để giải quyết một vấn đề phức tạp.
Nhưng suy nghĩ cơ bản thì đơn giản: có thể câu trả lời của AI trở nên đáng tin cậy hơn khi có hơn một hệ thống lặng lẽ kiểm tra công việc.
