March 29th, 2018

Как создают робота, который захочет изменить мир?



Компьютерный ученый Кристоф Солдж пытается устранить необходимость в правилах, которые управляют поведением роботов. Его стратегия — дать им цель: сделать нас более могущественными. Кристоф работает в Game Innovation Lab при Нью-Йоркском университете. Саша Маслов взяла интервью у Солджа для Quanta Magazine, из которого мы узнаем, что нам, возможно, вовсе не стоит пытаться удержать неудержимый поток технологической сингулярности.

Знаменитые три закона робототехники Айзека Азимова — ограничения поведения андроидов и автоматов, необходимые для обеспечения безопасности человечества — также были незавершенными. Эти законы сперва появились в рассказе Азимова в 1942 году, а затем в классических работах вроде «Я, робот» и звучат примерно так:

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
Робот должен подчиняться приказам, отдаваемым людьми, если таковые не противоречат Первому Закону.
Робот должен защищать свое существование, если эта защита не противоречит Первому или Второму Закону.
Collapse )