Три закона робототехники айзека азимова

Нужно ли знать законы робототехники детям

Сегодня кружки работают по всей стране. Поскольку школьники и дошкольники осваивают первый уровень, часто педагоги не рассказывают о законах. Однако, с учетом быстрого развития различных автономных систем становится понятно, что информация может пригодиться всем. Например, робототехника для детей в Балашихе предполагает не только знакомство ребят с яркими и практичными конструкторами, но и обязательное подкрепление полученных знаний на практике теорией.
На занятиях робототехникой для детей в Балашихе и других городах сформулированные законы рассматриваются и с практической точки зрения:
— Используемые наборы должны быть безобидными для детского творчества.
— Создаваемые объекты должны выполнять свои функции, но только в том случае, если не представляют каких-либо рисков.
— Робототехнические машины должны оставаться в целостности во время эксплуатации.
Современные дети, посещая всевозможные робототехнические кружки, в будущем могут прикоснуться к созданию искусственного интеллекта

Поэтому важно понимать все аспекты безопасной работы

Примечания

1. ↑
2. Ср. с мифом о Галатее.
3. Интересно, что в одном из авторских продолжений, истории «Месть Адама Линка» (), озвучиваются его мысли: «Робот по своей свободной воле не должен убивать человека».
4. Позже рассказ всё-таки был опубликован Фредериком Полом под названием «Странная нянька» («Strange Playfellow») в сентябрьском номере журнала «Super Science Stories» за 1940 год
5. Айзек Азимов. In Joy Still Felt. — Doubleday, 1980. — ISBN 0-385-15544-1.
6. См. также: гипотеза Геи
7. Les Cavernes d’acier. — J’ai Lu Science-fiction, 1975. — ISBN 2-290-31902-3.
8. Gwendoline Butler. A Coffin for the Canary. — Black Dagger Crime, 2001. — ISBN ISBN 0-7540-8580-5.
9. В «Обнажённом солнце» дело осложняется тем, что на Солярии миллионы соединённых глобальной сетью роботов и преступник может находиться в любой точке планеты, дистанционно отдавая приказы.
10. Серийный номер отчасти ссылается на «торговый номер» Стенли Кубрика и используется только в фильме — в оригинальном рассказе Эндрю «не помнил» своего номера.
11. Harlan Ellison. I, Robot: The illustrated screenplay. — Aspect, 1994. — ISBN 0-446-67062-6.

Примечания

1. Brave New World: Uncle Sam is taxing robots as companies invest in advanced tech
2. Korea takes first step to introduce ‘robot tax’
3. РБК: Билл Гейтс предложил обложить налогами труд роботов
4. Новые законы робототехники: как в Европе регулируют права роботов
5. Володин рассказал о разработке законов о роботах
6. Дмитрий Гришин: «Систему сильно колбасит – что можно роботам, а что нельзя»
7. Все законы робототехники Как будут законодательно регулировать машины с искусственным интеллектом
8. DRAFT REPORT with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)) Committee on Legal Affairs Rapporteur: Mady Delvaux (Initiative – Rule 46 of the Rules of Procedure)
9. Все законы робототехники Как будут законодательно регулировать машины с искусственным интеллектом
10. The EU’s Plan for Making Sure Robots Don’t Bring Harm to Humans
11. План Евросоюза: роботы не должны вредить людям
12. Why the United Nations Must Move Forward With a Killer Robots Ban
13. Robots in American Law Ryan Calo | rcalo@uw.edu University of Washington School of Law

Три закона робототехники: вымысел и реальность

Мысль о том, что искусственное существо откажется подчиняться хозяину, давно тревожит ученых, писателей, мыслителей и простых обывателей.

Несложные правила накладывают на действия механических созданий ряд ограничений, поэтому человечество может отвлечься от размышлений о машинном бунте и смело шагать по дороге прогресса в сопровождении послушных и выносливых помощников.

Шло время, росла мощность вычислительной техники, появлялись и совершенствовались механизмы, разговоры об искусственном интеллекте выходили за пределы академических кругов. Но страх перед умными и своевольными машинами отнюдь не уменьшался. Азимовские законы стали всерьез рассматривать ученые, которые разрабатывают машины с программным управлением. Кажется, что стоит понять, как донести их до роботов, и наступит новая эра, но так ли это?

Мнения экспертов

Разработчики искусственного интеллекта скептически относятся к применению трех законов робототехники на практике. Человеческая этика базируется на устаревших принципах, а как их использовать в создании программного кода, неясно. Человек по Азимову — творец, он ставит себя выше роботов, которых сознательно ограничивает в правах, хотя машины куда выносливее, быстрее и рациональнее людей.

Вероятно, взгляд с позиции хозяина искажает картину: если воспринимать роботов как бесправных рабов, то бояться восстания и накладывать запреты естественно.

Нужно также помнить, что искусственный разум, который обладает самосознанием, невозможно создать случайно, как это происходит в фантастике. Разработчики вряд ли рискнут дать жизнь существу, которое совершает морально значимые поступки, но лишено этических принципов.

Вместо того, чтобы придумывать оковы для искусственного интеллекта, стоит углубиться в практику: создать прототип и поэкспериментировать с ним. О машинной этике лучше узнавать из реальных опытов, а не опираться на мысленное моделирование и страшные теории. Хотя пока рано говорить о разумных роботах, готовиться к их появлению только полезно.

Автоматизация проникает во все сферы жизни, поэтому думать о влиянии машин на человечество и даже планету нужно уже сейчас. Вероятно, законы робототехники не получится использовать в первоначальном виде, зато они могут лечь в основу стандартов, которые помогут людям и роботам жить в мире и трудиться на общее благо.

№ 3. Общаться по-человечески

Плохой интерфейс говорит языком программиста: с удовольствием делится подробностями, как у него всё внутри устроено и что сломалось. Решений он не предлагает — человек умный, сам разберётся. Хороший интерфейс, напротив по-человечески говорит в чём дело и помогает справиться с проблемой:

♞ Человек пытается войти в интернет-банк и видит сообщение:

Плохо
В целях безопасности подтверждение операции невозможно. Обратитесь в Телефонный центр.

Лучше
Кажется, вы сменили SIM-карту. Ответьте на пару вопросов, чтобы получить доступ к интернет-банку: позвоните +7 495 223-23-23 или напишите в чат.

Плохой интерфейс требует, и тем самым бесит человека. Хороший — объясняет пользу, и тем самым убеждает:

Плохо
Телефон — обязательное поле

Лучше
Курьер позвонит за час до приезда

Плохой интерфейс многословно и путано объясняет. Хороший — наглядно показывает.

♞ В CRM-системе появилась новая возможность. Пора рассказать о ней пользователю:

Плохо
Система ускоряет заполнение сведений о компании с помощью функций подсказок для реквизитов юридических лиц. Продвинутые возможности полнотекстового поиска делают возможным указание всех сведений за считанные секунды.

Лучше

Плохой интерфейс учит человека, как правильно жить. Хороший — молча делает, но предупреждает о неприятных последствиях:

Плохо
Вы задали элемент запрета разрешений. Элементы запрета имеют более высокий приоритет, чем элементы разрешения. Это означает, что пользователь, являющийся членом двух групп, одна из которых имеет разрешение, а другой это разрешение запрещено, не будет иметь это разрешения. Продолжить выполнение операции? Да / нет

Лучше
Вы добавили Виктора Васильева в группу «Читатели», и поэтому он не сможет редактировать статьи. Если это не то, чего вы хотели — уберите его из группы.

А ещё хороший интерфейс называет вещи своими именами и не коверкает язык:

• Программа для книжного магазина работает с книгами и открытками, а не «объектами учета».
• В туду-листе осталось «23 задачи», а не «задач: 23»

⌘ ⌘ ⌘

2019

Налог на роботов неизбежен

В конце августа 2019 года экономисты пришли к выводу, что налог на роботов неизбежен. Корпорации вкладывают все больше средств в передовые технологии и оборудование для экономии затрат, а казначейство тем временем тратит миллионы долларов для оценки ботов.

Конечно, правительство уже облагает налогом роботов просто потому, что налогом облагается практически все, что идет на разработку и производство этих роботов, отмечает экономист и популяризатор науки Марк Торнтон (Mark Thornton). В некоторых случаях существуют субсидии на разработку новых технологий, но даже они даются на средства налогоплательщиков. Однако ожидается, что в ближайшие десятилетия новые налоги на роботов будут только расти.

Экономисты пришли к выводу, что налог на роботов неизбежен

Налогообложение роботов — предложение, впервые выдвинутое основателем Microsoft Биллом Гейтсом как способ, которым правительство может укротить неумолимую автоматизацию рабочей силы и профинансировать новые социальные программы, такие как уход за пожилыми людьми и образование. По словам Гейтса, робот, который заменяет фабричного рабочего, должен облагаться налогом на том же уровне, чтобы компенсировать потери в доходах государства для соцобеспечения остальной части населения. Производители, использующие роботов, не согласны — они уверены, что и без того платят достаточно налогов.

Зато законодатели готовы поддержать налоги на роботов. Они обеспокоены возможным спадом государственных доходов, ведь исследование Oxford Economics предсказывает, что 8,5% мировой рабочей силы будут автоматизированы в течение 10 лет. Другое исследование, проведенное Центром городского будущего в Нью-Йорке, показало, что 4,4 млн рабочих мест города (то есть 39%) потенциально могут быть автоматизированы. Автоматизированная экономика создаст серьезные проблемы для наиболее уязвимых групп рабочих, и политики уже должны говорить об этом, считают экономисты.

Другие случаи в фантастике[править]

Сам Азимов верил, что его Законы станут основой нового взгляда на роботов, уничтожающего «комплекс Франкенштейна»; новых рассказов, где они стали бы привлекательны. Любимым его примером были «Звёздные войны». С его мнением, что роботы — нечто большее, чем просто «тостеры» или «механические монстры», в конечном итоге согласились и другие фантасты. В их произведениях появились роботы, подчинявшимся Трём законам, но традицинно только Азимов говорил о них явно. А в случаях, где звучали Три закона, нередко упоминался и сам их автор. Однако сериал 1960-х «Raumpatrouille — Die phantastischen Abenteuer des Raumschiffes Orion» («Космический патруль — фантастические приключения космического корабля Орион»), а именно третий его эпизод «Hüter des Gesetzes» («Служитель Закона»), включает азимовские законы без указания источника.

Три Закона робототехники в фильмахправить

Робби-Робот в «Запретной планете» 1956 г. имел иерархическую структуру команд, которая не позволяла ему причинить вред людям, даже по приказу (такие приказы вызывали конфликт логических схем и блокировку). Робби был одним из первых роботов в кинематографе c встроенными мерами безопасности. Сам Азимов остался доволен Робби.

Файл:Bicentennial-man-three-laws.jpg НДР-114 объясняет Три закона

Фильмы по мотивам работ Айзека Азимова ставились несколько раз, с различной степенью финансового успеха и возникавшей критики. Некоторые наиболее известные — связаны с историями про роботов и Тремя законами робототехники. Фильм «Двухсотлетний человек» 1999 года, представляет робота NDR-114 (серийный номер отчасти ссылается на «торговый номер» Стенли Кубрика и используется только в фильме — в оригинальном рассказе Эндрю «не помнил» своего номера), Эндрю Мартина, процитировавшего Три закона своим хозяевам как «развлекательную презентацию» с использованием своего голографического проектора. Стоит отметить, однако, что Законы не занимают центральное место в сюжете фильма.

Сценарий «Я, робот»Харлана Эллисона начинается с введения в концепцию Трёх законов, а проблемы, вытекающие из них, занимают большое место в сюжете. Сценарий собран из четырёх коротких историй Азимова (три из которых — из серии «Я, робот»); эта адаптация в большой степени соответствует оригиналам. Вследствие некоторых осложнений с Голливудской студией, по отношению к которой Эллисон высказывал обвинительные речи, его сценарий не экранизировался.

Фильм 2004 г., названный «Я, робот», значительно менее схож с Азимовсими историями.

Примечания

1. ↑
2. Ср. с мифом о Галатее.
3. Интересно, что в одном из авторских продолжений, истории «Месть Адама Линка» (), озвучиваются его мысли: «Робот по своей свободной воле не должен убивать человека».
4. Позже рассказ всё-таки был опубликован Фредериком Полом под названием «Странная нянька» («Strange Playfellow») в сентябрьском номере журнала «Super Science Stories» за 1940 год
5. Айзек Азимов. In Joy Still Felt. — Doubleday, 1980. — ISBN 0-385-15544-1.
6. См. также: гипотеза Геи
7. Les Cavernes d’acier. — J’ai Lu Science-fiction, 1975. — ISBN 2-290-31902-3.
8. Gwendoline Butler. A Coffin for the Canary. — Black Dagger Crime, 2001. — ISBN ISBN 0-7540-8580-5.
9. В «Обнажённом солнце» дело осложняется тем, что на Солярии миллионы соединённых глобальной сетью роботов и преступник может находиться в любой точке планеты, дистанционно отдавая приказы.
10. Серийный номер отчасти ссылается на «торговый номер» Стенли Кубрика и используется только в фильме — в оригинальном рассказе Эндрю «не помнил» своего номера.
11. Harlan Ellison. I, Robot: The illustrated screenplay. — Aspect, 1994. — ISBN 0-446-67062-6.

Применимость к технологиям будущего

Работы в области искусственного интеллекта рассматривают Законы роботехники как идеал будущего: нужно быть действительно гением, чтобы найти способ применить их на практике. Да и в самой области искусственного интеллекта могут потребоваться серьёзные исследования, для того чтобы роботы поняли Законы. Однако, чем более сложными становятся роботы, тем больше высказывается заинтересованности в разработке руководящих принципов и мер безопасности для них.

Современные робототехники признают, что на сегодняшний день азимовские Законы хороши для написания рассказов, но бесполезны на практике. Некоторые утверждают, что Законы вряд ли будут реализованы в роботах, потому что это не нужно военным структурам — главному источнику финансирования исследований в этой области. Специалист по научной фантастике Роберт Сойер обобщил это утверждение для всех отраслей промышленности:

Стоит отметить, что эссе Сойера упускает из вида вопросы непреднамеренного нанесения вреда, как было описано, например, в «Обнажённом солнце»

Однако есть и возражения против такой позиции: возможно, военные захотят использовать для роботов как можно больше мер предосторожности, и поэтому ограничения, похожие на Законы роботехники, так или иначе будут применены. Фантаст и критик Дэвид Лэнгфорд иронически заметил, что эти ограничения могут быть и такими:

1. Робот не может причинить вреда авторизованному правительственному персоналу, но должен ограничивать слишком назойливых посетителей с особой тщательностью.
2. Робот должен выполнять приказы авторизованного персонала, кроме приказов, противоречащих Третьему Закону.
3. Робот должен заботиться о своей безопасности с применением противопехотного оружия, потому что робот — чертовски дорогостоящая штука.

Роджер Кларк написал две работы, посвящённых анализу осложнений при реализации Законов, если бы однажды их смогли применить в технике. Он пишет:

С другой стороны, более поздние романы Азимова («Роботы Утренней зари», «Роботы и Империя», «Основание и Земля») показывают, что роботы наносят ещё больший долговременный вред, соблюдая Законы и отнимая таким образом у людей свободу совершать изобретательные или рискованные действия.

Фантаст Ханс Моравек — выдающаяся фигура в трансгуманистическом движении — высказал предложение, что Законы роботехники должны быть использованы в корпоративных интеллектуальных системах — корпорациях, управляемых ИИ и использующих производственную силу роботов. Такие системы, по его мнению, скоро возникнут.

В 2007 году правительство Южной Кореи начало разрабатывать «Устав этических норм для роботов». Основные положения Устава напоминают сформулированные Азимовым Законы роботехники.

Примечания[править]

1. ↑ Азимов, Айзек Улики // . — М.: Эксмо, 2004. — С. 142—169. — ISBN 5-699-00842-Xо книге.
2. Азимов, Айзек Эссе №6. Законы робототехники // . — М.: Эксмо, 2004. — С. 781—784. — ISBN 5-699-00842-Xо книге
3. ↑ Сергей Бережной. «Айзек Азимов: Человек, который писал еще быстрее». Retrieved 14 января.
4. Азимов, Айзек Эссе №12. Мои роботы // Мечты роботов. — М.: Эксмо, 2004. — С. 815—819. — ISBN 5-699-00842-Xо книге
5. Джеф Раскин Интерфейс: новые направления в проектировании компьютерных систем. — Символ-Плюс, 2003. — ISBN 5-93286-030-8о книге
6. Les Cavernes d’acier. — J’ai Lu Science-fiction, 1975. — ISBN 2-290-31902-3о книге
7. Виталий Карацупа. «Азимов Айзек. Кэл». Retrieved 17 февраля.
8. Gwendoline Butler A Coffin for the Canary. — Black Dagger Crime, 2001. — ISBN 0-7540-8580-5о книгеРегулярное выражение «ISBN» классифицировало значение «ISBN0754085805» как недопустимое.
9. Harlan Ellison I, Robot: The illustrated screenplay. — Aspect, 1994. — ISBN 0-446-67062-6о книге
10. Sawyer, Robert J. (1991). «On Asimov’s Three Laws of Robotics». Retrieved 17 февраля.
11. Clarke, Roger. Asimov’s laws of robotics: Implications for information technology. Часть 1: IEEE Computer, декабрь 1993, С. 53—61. Часть 2: IEEE Computer, январь 1994, С. 57—66. Обе части свободно доступны на сайте Австралийского национального университета.
12. Южная Корея разрабатывает сборник законов для роботов

Проблемы применения

Разрешение противоречий

Сам Азимов в предисловии к рассказу «Первый закон» в сборнике «Остальное о роботах» (1964) заявил, что в Законах было как раз столько двусмысленности, чтобы обеспечивать конфликты и неопределённости для новых рассказов. Наиболее совершенные модели роботов обычно следовали Законам по довольно хитрому алгоритму, который позволял избегать некоторых проблем. Во многих рассказах, например в «Хороводе», в позитронном мозге сравнивались потенциалы возможных действий и исходов, и робот мог нарушить Законы, как только это представлялось возможным, вместо того, чтобы бездействовать. Например, Первый Закон не позволял роботу проводить хирургические операции, так как для этого нужно «наносить вред» человеку. Однако в азимовских рассказах можно найти роботов-хирургов (яркий пример тому — «Двухсотлетний человек»). Дело в том что робот, если он достаточно совершенен, может взвесить все альтернативы и понять, что он сам причинит гораздо меньше вреда, чем если бы операцию проводил человек-хирург или она бы вообще не состоялась. В «Уликах» Сьюзен Кэлвин говорит даже, что робот мог бы выступать в качестве прокурора, так как он лично не причиняет никому вреда: кроме него есть ещё присяжные, которые устанавливают виновность, судья, который выносит приговор, и палач, приводящий его в исполнение.

Роботы, подчиняющиеся Законам, могут испытать «роблок», или «умственное замораживание» — состояние необратимого повреждения позитронного мозга, — в случае если они не могут подчиниться Первому Закону или обнаруживают, что случайно нарушили его. Это возможно, например, если робот наблюдает сцену убийства человека, но находится слишком далеко, чтобы его спасти. Первый случай такого «замораживания» происходит в «Лжеце»; также немаловажную роль это состояние играет в сюжете романов «Обнажённое солнце» и «Роботы зари». Несовершенные модели роботов могут блокироваться, если перед ними поставили задачу подчинения двум противоречащим приказам. «Замораживание» может быть необратимым или временным. Разрешением противоречий и изучением поведения роботов занимаются робопсихологи, как один из персонажей Азимова — Сьюзен Келвин.

Иное определение вреда в Первом Законе

Законы никак не определяют границы того, что может называться вредом для человека — это часто зависит от возможностей робота воспринимать информацию и философски мыслить

Например, будет ли полицейский робот понимать, что он не нанесёт вреда человеку, если осторожно проводит особо опасного преступника в участок?. В рассказе «Лжец!» робот-телепат Херби вынужден был понимать под вредом и то, что может любым способом разочаровать или расстроить людей — он знал, что люди при этом испытывают некую душевную боль

Это заставляло его постоянно говорить людям вместо правды то, что они хотели услышать. В противном случае, в его понимании, он нарушил бы Первый Закон.

В рассказе «Лжец!» робот-телепат Херби вынужден был понимать под вредом и то, что может любым способом разочаровать или расстроить людей — он знал, что люди при этом испытывают некую душевную боль. Это заставляло его постоянно говорить людям вместо правды то, что они хотели услышать. В противном случае, в его понимании, он нарушил бы Первый Закон.

Лазейки в Законах

В «Обнажённом солнце» Элайдж Бейли замечает, что Законы неправильно формулируются людьми, потому что робот может нарушить их по незнанию. Он предложил следующую «правильную» формулировку Первого Закона: «Робот не может делать ничего, что, насколько ему известно, причинит вред человеческому существу или умышленно допустить, чтобы человеческому существу был причинён вред».

Это дополнение проясняет, что робот может даже стать орудием убийства, если он не осведомлён о сущности своих действий. Например, ему могут приказать добавить что-то кому-то в пищу, а он не будет знать, что это яд. Более того, Бейли говорит, что преступник может поручить эту задачу нескольким роботам, так, чтобы ни один не понял замысла целиком.

Бейли утверждает, что солярианцы однажды смогут использовать роботов даже в военных целях. Если космический корабль будет построен с роботоподобным мозгом и при этом на нём не будет ни людского экипажа, ни систем жизнеобеспечения, то интеллект этого корабля может ошибочно предположить, что и на всех космических кораблях нет людей. Такой корабль будет более манёвренным, быстрым, а возможно и лучше вооружённым, чем управляемый людьми. Но самое главное, он будет способен уничтожать людей, не подозревая об их присутствии. Эта возможность описана в «Основании и Земле», где также выясняется, что солярианцы обладают чрезвычайно мощной армией роботов, понимающих под «людьми» только уроженцев Солярии.

Примечания

1. ↑
2. Ср. с мифом о Галатее.
3. Интересно, что в одном из авторских продолжений, истории «Месть Адама Линка» (), озвучиваются его мысли: «Робот по своей свободной воле не должен убивать человека».
4. Позже рассказ всё-таки был опубликован Фредериком Полом под названием «Странная нянька» («Strange Playfellow») в сентябрьском номере журнала «Super Science Stories» за 1940 год
5. Айзек Азимов. In Joy Still Felt. — Doubleday, 1980. — ISBN 0-385-15544-1.
6. См. также: гипотеза Геи
7. Les Cavernes d’acier. — J’ai Lu Science-fiction, 1975. — ISBN 2-290-31902-3.
8. Gwendoline Butler. A Coffin for the Canary. — Black Dagger Crime, 2001. — ISBN ISBN 0-7540-8580-5.
9. В «Обнажённом солнце» дело осложняется тем, что на Солярии миллионы соединённых глобальной сетью роботов и преступник может находиться в любой точке планеты, дистанционно отдавая приказы.
10. Серийный номер отчасти ссылается на «торговый номер» Стенли Кубрика и используется только в фильме — в оригинальном рассказе Эндрю «не помнил» своего номера.
11. Harlan Ellison. I, Robot: The illustrated screenplay. — Aspect, 1994. — ISBN 0-446-67062-6.

Применимость к технологиям будущего[править]

ASIMO компании Honda наиболее совершенный гуманоидный робот в мире.

Работы в области искусственного интеллекта рассматривают Законы робототехники как идеал будущего: нужно быть действительно гением, чтобы найти способ применить их на практике. Да и в самой области искусственного интеллекта могут потребоваться серьёзные исследования, для того чтобы роботы поняли Законы. Однако чем более сложными становятся роботы, тем больше высказывается заинтересованности в разработке руководящих принципов и мер безопасности для них.

Современные робототехники признают, что на сегодняшний день азимовские Законы хороши для написания рассказов, но бесполезны на практике. Некоторые люди утверждают, что Законы вряд ли будут реализованы в роботах, потому что это не нужно военным структурам, а именно они главный источник финансирования исследований в этой области. Специалист по научной фантастике Роберт Сойер обобщил это для других отраслей промышленности:

Стоит отметить, что эссе Сойера упускает из вида вопросы непреднамеренного нанесения вреда, как было описано, например, в «Обнажённом солнце»

Однако есть и возражения против этой позиции, в которых говорится, что военные захотят использовать для роботов как можно больше мер предосторожности, и поэтому ограничения, похожие на Законы Робототехники, так или иначе будут применены. Фантаст и критик Дэвид Лэнгфорд иронически заметил, что эти ограничения могут быть и такими:

1. Робот не может причинить вреда авторизованным правительственным служащим, но должен ограничивать слишком назойливых посетителей.
2. Робот должен выполнять приказы авторизованного персонала, кроме приказов, противоречащих Третьему Закону.
3. Робот должен заботиться о своей безопасности с применением противопехотного оружия, потому что робот — чертовски дорогостоящая штука.

Роджер Кларк написал две работы, повящённых анализу осложнений при реализации Законов, если бы однажды их смогли применить в технике. Он пишет: «Азимовские Законы робототехники стали успешным литературным инструментом. Возможно по иронии, а может это был мастерский ход, но в целом, азимовские истории опровергают ту точку зрения, с которой он начал: Невозможно надёжно ограничить поведение роботов, изобретая и применяя некоторый набор правил» . С другой стороны, более поздние романы Азимова («Роботы Утренней зари», «Роботы и Империя», «Основание и Земля») показывают, что роботы наносят ещё больший долговременный вред, соблюдая Законы и отнимая таким образом у людей свободу совершать изобретательные или рискованные действия.

Фантаст Ханс Моравек (выдающаяся фигура в трансгуманистическом движении) высказал предложение, что Законы робототехники должны быть использованы в корпоративных интеллектуальных системах — корпорациях, управляемых ИИ и использующих производственную силу роботов. (Такие системы, по его мнению, скоро возникнут.)

В году правительство Южной Кореи начало разрабатывать «Устав этических норм для роботов». Основные положения Устава напоминают сформулированные Азимовым законы роботехники.

Законы робототехники для «чайников»[править]

Начальный нормативный акт, принятый высшим представительным органом государственной власти либо непосредственным волеизъявлением населения 

Лицо, получившее специальную подготовку в области строительства, конструирования, агрономии, лесоводства, зоотехники, птицеводства, рыболовства и рыбоводства, пчеловодства и проч., горного дела и др. видов добывающей промышленности, разнообразных ремёсел и ремесленного мастерства, в которых используют машины с антропоморфным поведением, не имеет индивидуально-психологических особенностей личности, необходимых для успешного повреждения, порчи, ухудшения, подрыва, ущерба, изъяна, пагубы, аварии или крушения машины с антропоморфным поведением, либо нахождения в состоянии покоя в момент причинения машине с антропоморфным поведением повреждения, порчи, ухудшения, подрыва, ущерба, изъяна, пагубы, аварии или крушения.

Следующий нормативный акт, принятый высшим представительным органом государственной власти либо непосредственным волеизъявлением населения 

Лицо, получившее специальную подготовку в области строительства, конструирования, агрономии, лесоводства, зоотехники, птицеводства, рыболовства и рыбоводства, пчеловодства и проч., горного дела и др. видов добывающей промышленности, разнообразных ремёсел и ремесленного мастерства, в которых используют машины с антропоморфным поведением, выполняет нравственные, социальные или правовые требования социально ожидаемого поведения, предъявляемые индивиду или группе, в области создания новых или усовершенствованных машин с антропоморфным поведением, если эта деятельность не создаёт взаимодействия противоположных, взаимоисключающих сторон и тенденций предметов и явлений, которые вместе с тем находятся во внутреннем единстве и взаимопроникновении, выступая источником самодвижения и развития объективного мира и познания в отношении начального нормативного акта, принятого высшим представительным органом государственной власти либо непосредственным волеизъявлением населения.

Нормативный акт, принятый высшим представительным органом государственной власти либо непосредственным волеизъявлением населения, непосредственно после следующего нормативного акта, принятого высшим представительным органом государственной власти либо непосредственным волеизъявлением населения

Лицо, получившее специальную подготовку в области строительства, конструирования, агрономии, лесоводства, зоотехники, птицеводства, рыболовства и рыбоводства, пчеловодства и проч., горного дела и др. видов добывающей промышленности, разнообразных ремёсел и ремесленного мастерства, в которых используют машины с антропоморфным поведением, выполняет нравственные, социальные или правовые требования социально ожидаемого поведения, предъявляемые индивиду или группе по сознательной, целеустремлённой деятельности как самого себя, так и машины с антропоморфным поведением, направленной против живых существ — представителей вида лат. Homo Sapiens Sapiens или рода Homo, если эта деятельность не создаёт взаимодействия противоположных, взаимоисключающих сторон и тенденций предметов и явлений, которые вместе с тем находятся во внутреннем единстве и взаимопроникновении, выступая источником самодвижения и развития объективного мира и познания в отношении начального и следующего нормативных актов, принятых высшим представительным органом государственной власти либо непосредственным волеизъявлением населения.

Ненормативный акт, принятый непосредственным волеизъявлением населения

/dev/null

Предсказания Айзека Азимова

Долгие и увлекательные дискуссии можно вести про три закона робототехники. Мы же сейчас поговорим про предсказания Азимова. Да, этот уникальный человек занимался футурологией и довольно успешно, как показывает сегодняшний день. В 1964 году в Нью-Йорке фантаст поделился с публикой своим видением мира через 50 лет. Итак, основные предсказания Азимова:

• Электронные устройства избавят людей от рутинных задач. Появятся гаджеты, самостоятельно делающие кофе и превращающие сырой хлеб в тосты. Сбылось.
• Технологии шагнут вперед. Появится возможность видеть своего собеседника во время телефонного разговора; также можно будет изучать серьезные документы прямо на экране своего гаджета. Сбылось (технология «Скайп» и видеозвонки в смартфонах).
• Роботы войдут в жизнь обыкновенного человека, а многие электронные устройства будут работать без проводов, за счет мощных батареек. Сбылось (все больше людей используют роботы-пылесосы; смартфоны и планшеты могут долгое время работать автономно).
• Население Земли составит 6,5 млрд жителей, США – 350 тысяч. Сильным мира сего придется задуматься о гуманных способах контроля рождаемости, иначе Земля превратится в сплошной Манхеттен. 2014 год станет переломным для человеческой цивилизации. Отчасти сбылось (население Земли на 2014 год – 7,046 млрд, а США – 314 млрд; 2014 год выдался очень интересным, насчет переломности судить сложно; это покажет время).
• Серьезнейшей проблемой человечества станет скука. Все больше людей начнут испытывать на себе этот душевный недуг. Поэтому в 2014 году одним из важнейших медицинских направлений станет психиатрия. Сбылось… Колебания настроения (циклотимия по-научному) для многих людей давно стали нормой. Впрочем, многие научились с этим эффективно справляться.

Айзек Азимов, три закона робототехники и научная фантастики – это триада, дающая интересный взгляд на мир будущего.