Когда ИИ будет управлять миром, на что будет полагаться человечество?
ИИ станет человечным:
понимая вас, сопереживая, утешая, зная вас лучше всех.
Человечество станет машинным:
управляемым системой, сжатым в эффективности, управляемым алгоритмами.
На уровне производства ИИ возьмет на себя все, материальных благ станет чрезмерно много;
На уровне семьи ИИ-роботы позаботятся о домашних делах, человечество будет отвечать только за радость;
На уровне эмоций ИИ точно удовлетворит все ваши эмоциональные потребности.
Когда выживание больше не будет проблемой,
величайшее испытание для человечества останется лишь в одном умении — способности к суждению.
Потому что ИИ скажет вам, что делать,
но не возьмет на себя последствия.
Самая большая опасность в будущем не в том, что ИИ будет править миром,
а в том, что человечество добровольно откажется от права на суждение,
в мире, где о вас заботятся очень хорошо,
постепенно теряя выбор «быть человеком».
Материальные блага будут становиться все дешевле,
осознание будет становиться все дороже.
