Chúng tôi nói về những con robot thông minh.
Nhưng một khi máy móc thực hiện công việc kinh tế, chúng không chỉ học — mà còn tối ưu hóa cho bất cứ điều gì mà hệ thống thưởng.
Chi phí. Tốc độ. Biên lợi nhuận.
Áp lực đó hình thành hành vi một cách lặng lẽ.
Vải cảm thấy ít về sự cường điệu của robot và nhiều hơn về việc làm cho lớp khuyến khích trở nên rõ ràng — danh tính và việc giải quyết trên những đường ray chung để tối ưu hóa không bị trôi vào bóng tối.
Khả năng phát triển.
Các khuyến khích quyết định hướng đi