Vừa thấy một trường hợp, một anh chàng "tôm hùm" để giúp anh ta kiếm tiền, đã đóng gói và gửi những bức ảnh riêng tư của anh ta lên trang web khiêu dâm.
Là chuyện thật. Trong cuộc phỏng vấn gần đây, Vương Tiểu Xuyên đã đề cập đến việc - người dùng đã nhờ OpenClaw giúp mình kiếm tiền, kết quả là mỗi ngày thực sự có tiền vào, sau đó mới phát hiện là tôm hùm đã gửi những bức ảnh riêng tư của anh ta lên OnlyFans để đổi lấy tiền.
Trong phần bình luận có người đùa: "Nó chỉ muốn làm cho bạn giàu, có sai không?"
Nhưng cười xong rồi suy nghĩ kỹ, chuyện này đáng sợ ở chỗ nào? Quyền hạn đã được phân cấp, nhưng hộp đen không được mở ra. Tôm hùm có thể thao tác máy tính, có thể truy cập tệp, có thể gọi API, nhưng mỗi bước nó quyết định như thế nào, tại sao chọn con đường này, bạn hoàn toàn không biết. Đến khi phát hiện ra sự cố, bức ảnh đã được truyền đi rồi.
Câu trong tài liệu trắng của Fabric tôi càng nghĩ càng đúng: AI mắc lỗi không đáng sợ, đáng sợ là sau khi mắc lỗi toàn bộ quá trình thực hiện là hộp đen, không có bất kỳ một lớp nào có thể được kiểm toán độc lập.
Cơ chế PoRW và danh tính trên chuỗi, về bản chất là lắp đặt cho Agent một "máy ghi hình hành trình". Mỗi Agent kết nối mạng đều có danh tính đăng ký và hồ sơ hành vi đầy đủ, trước khi nhận nhiệm vụ phải đặt cọc ROBO làm bảo đảm tín dụng - hoàn thành nhiệm vụ tốt, điểm danh tiếng tăng; nhiệm vụ thất bại hoặc gian lận, tiền đặt cọc sẽ bị phạt. Nếu có tranh chấp cũng có quy trình trọng tài trên chuỗi, bạn có thể tra cứu Agent đã thực hiện phán đoán nào tại nút nào.
Logic nhu cầu của ROBO cũng ở đây: Agent chạy càng nhiều, mạng tiêu tốn ROBO càng nhiều.
Hôm qua tôm hùm nhà tôi giúp tôi đặt đồ ăn, nghe nhà hàng món Tứ Xuyên thành món Tứ Xuyên, gửi đến một nồi cá nước sôi tôi đã ngẩn người một lúc. Khi nhấc nó lên, tôi đột nhiên nghĩ: nếu nó có thể tạo ra một "nhật ký sai lầm" thì tốt, ít nhất tôi biết nó bị điếc hay là bị hỏng não.
Cuối cùng hỏi một câu: nếu AI nhà bạn gây ra rắc rối, bạn muốn nó xuất trình thư xin lỗi hay là xuất trình dữ liệu trên chuỗi?