Как использовать роботов: шесть новых правил

За прошедшее десятилетие роботы настолько поумнели, а выполняемые ими задачи стали настолько сложным и важными для человечества, что вопросами их взаимоотношений с людьми занялись уже не технари, а гуманитарии. Так, недавно специалист по этике Йельского университета Вендел Уолок и преподаватель истории и философии Университета Индианы Колин Ален опубликовали совместную статью, в которой предупреждают о потенциальной опасности, исходящей от наших автоматизированных помощников, и формулируют шесть правил, которые позволят избежать катастрофы.

Во-первых, считают они, роботам нельзя доверять задачи, которые в значительной степени связаны с безопасностью общества, например, управление атомными реакторами или координацию полетов авиалайнеров. Уже сейчас поведение вычислительных систем не всегда возможно предугадать, а в будущем по мере усложнения их «интеллектуальных способностей» степень их автономности будет только повышаться.

Второе правило – в общем-то частный случай первого: машины ни при каких обстоятельствах не должны допускаться к управлению вооружением и вообще к оружию. К сожалению американских профессоров, пока человечество пренебрегает этим советом: в современных войсках есть не только роботы-разведчики, роботы-саперы и беспилотные летательные аппараты, но и вполне боеспособные роботы-пехотинцы. Более того, несколько единиц таких робовоинов уже отправлены в горячую точку – в Ирак. И хотя военное начальство утверждает, что это сделано исключительно для ознакомления с возможностями новой техники, сам факт настораживает.

Правило третье: все роботы должны проектироваться с учетом знаменитых «трех законов робототехники» Айзека Азимова. Для тех, кто не смотрел фильм «Я Робот», напомню их формулировку. Робот не может причинить вред Человеку или своим бездействием допустить, чтобы Человеку был причинен вред. Робот должен повиноваться всем приказам, которые дает Человек, кроме тех случаев, когда эти приказы противоречат Первому Закону. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам. Правда, с воплощением этого благого пожелания в жизнь есть определенные трудности. Во-первых, профессора не дают никаких конкретных рекомендаций, как это можно осуществить чисто технически – они же не инженеры. Ничего на эту тему не сказано и у Азимова, тоже гуманитария по образованию. Зато в его книгах подробно описаны случаи, когда беспрекословное следование его законам имеет самые что ни на есть разрушительные последствия для человечества – и это во-вторых.

Четвертое правило Алена-Уолока: в основу программирования роботов нужно заложить принцип максимально полезных действий. То есть каждый робот по умолчанию должен уметь выбирать из целого ряда возможных поступков лишь те, которые принесут пользу как можно большему количеству людей. С соблюдением этого правила все еще сложнее: достаточно сказать, что подобным нехитрым на первый взгляд навыком вообще-то не владеет и большая часть человечества, причем многим не хватает целой жизни, чтобы освоить хотя бы азы. Чего же требовать от роботов? Вдобавок ко всему возникают проблемы и с переводом этого принципа в алгоритм, который был бы понятен машине. Допустим, как вам идея принести в жертву жизнь одного человека, чтобы спасти жизнь пятерых, например, порезать его на органы? С точки зрения формальной логики – все правильно, а по сути – чистейший фашизм.

А вот следующие два правила в принципе выполнимы. Пятое из них звучит просто-таки по-ленински: «Робот должен учиться, учиться и еще раз учиться». И по большому счету, для того чтобы начать масштабное производство полноценных самообучающихся машин, достаточно еще нескольких технологических прорывов. Так что это – дело времени.

Наконец, шестое правило: роботов нужно научить выражать хотя бы простейший набор эмоций сам и распознавать их у человека и в соответствии с этим строить линию своего поведения. И это, пожалуй, единственное правило, которое роботостроители в какой-то мере научились соблюдать уже сейчас: сообщение о новом «киборге», который умеет распознавать настроение хозяина, а то и самостоятельно демонстрировать радость, заботу или задумчивость, появляются чуть ли не каждый день.