AI cảm thấy tự tin. Đó là điều làm cho nó nguy hiểm. Khi một AI đưa ra câu trả lời, nó không thể hiện sự nghi ngờ hay do dự. Nó nói như thể nó biết. Theo thời gian, mọi người bắt đầu tin tưởng vào sự tự tin đó mà không đặt câu hỏi.
Vấn đề là AI không hiểu được hậu quả. Nó không biết điều gì sẽ xảy ra nếu nó sai. Nó dự đoán câu trả lời dựa trên các mẫu, chứ không phải trách nhiệm. Khi một điều gì đó không rõ ràng, nó vẫn phản hồi với những gì nghe có vẻ hợp lý nhất. Trong các nhiệm vụ nhỏ, điều này có thể không quan trọng. Trong các lĩnh vực như tài chính, chăm sóc sức khỏe, an ninh, hoặc thông tin công cộng, một câu trả lời sai có thể kích hoạt một chuỗi thiệt hại thực tế.
Niềm tin mù quáng làm cho điều này tồi tệ hơn. Khi con người ngừng kiểm tra và bắt đầu chấp nhận đầu ra của AI như sự thật, những sai lầm sẽ tăng nhanh. Một sai sót duy nhất có thể được lặp lại hàng nghìn hoặc triệu lần. Thiên kiến trở nên vô hình. Ảo giác không được chú ý. Và đến khi vấn đề được nhìn thấy, thiệt hại đã xảy ra.
Đây là lý do tại sao các hệ thống như Mira quan trọng. Mira không yêu cầu bạn tin tưởng AI một cách mù quáng. Nó xác minh từng tuyên bố bằng cách sử dụng nhiều mô hình trước khi một câu trả lời được chấp nhận. Sự tự tin được thay thế bằng bằng chứng.
Tương lai sẽ không được định hình bởi cách AI nghe có vẻ thông minh. Nó sẽ được định hình bởi cách chúng ta xác minh cẩn thận. Niềm tin mù quáng thì dễ dàng. Việc xác minh là điều ngăn chặn thảm họa.
