Роботы начали убивать людей, или конец первого закона Азимова

05.06.2021

В левых блогах обсуждают знаменательное событие, случившееся этой весной: «робот впервые убил человека без команды другого человека». Из новостей: «Военный квадрокоптер Kargu-2, находясь в автономном режиме работы, убил человека во время вооруженного конфликта в Ливии. Как пишет журнал New Scientist со ссылкой на исследование ООН, это первый зафиксированный случай в истории, когда дрон без приказа человека совершил убийство. Эпизод произошёл в марте 2020 года, однако об этом стало известно только сейчас. Дрон был произведен в Турции и работал в «высокоэффективном автономном режиме», то есть был запрограммирован для атаки целей без необходимости команд от оператора. Kargu-2 оснащаются взрывчаткой и могут быть наведены на цель для самоподрыва. Погибший был участником Ливийской национальной армии под предводительством Халифа Хафтара — она воюет против регулярной армии правительства Ливии в Триполи».

Пока что это, как пишет блогер Якобинец1793, «небольшой квадрокоптер... но лиха беда начало — и первые аэропланы из г*вна и палок, с которых вручную скидывали ручные же гранаты, не слишком впечатляли, а уже через три десятилетия они научились уничтожать целые города. Да и не факт, что огромные бомберы страшнее таких малюток, если малюток тысячи».

«"Страж-птица", Роберт Шекли, — пишет блогер Александр Коммари. — Читал в советское время ещё. Здравствуй, будущее... Неуютно что-то жить в будущем».

Я бы назвал случившееся событие «концом первого закона робототехники Азимова». Напомню, что в первой половине ХХ века у человечества был весьма развит страх перед появлением в процессе технического прогресса мыслящих роботов. Если сказать проще — то перед тем, что эти роботы начнут убивать людей. Кошмар «восстания роботов»! И человечество в этой новой эволюции ждёт невесёлая судьба неандертальцев. И вот, чтобы как-то совладать с этими страхами, американский прогрессивно мыслящий писатель-фантаст Айзек Азимов (между прочим, уроженец Советской России, Смоленской губернии) в 1942 году сформулировал обязательные правила поведения для роботов — три закона робототехники.

Законы гласили:

«1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам».

У Азимова был целый цикл произведений, в которых объяснялось, почему недопустимо самомалейшее отступление от придуманных им законов робототехники. Например, нельзя разрешать роботам спокойно смотреть, как человеку причиняется вред — тогда они сами смогут, допустим, выронить на человека каменную глыбу — это не является убийством, поскольку они могут тут же её подхватить, и ничего не случится. Но, отпустив её, они уже смогут не ловить её, а спокойно смотреть, как «человеку причиняется вред» падением этой глыбы. То есть законы Азимова были продуманы до тонкости...

Законы Азимова так и не вошли в реальное употребление, но тем не менее сыграли определённую историческую роль: благодаря им люди свыклись с тем, что на планете могут существовать иные разумные существа, кроме них самих, созданные на иной физической основе. Успокоили себя, убедив, что те будут находиться на положении послушной низшей расы, грубо говоря, рабов (о чём прямо гласил второй закон — «робот должен повиноваться всем приказам, которые даёт человек»), им будет строжайше запрещено причинять вред людям, и поэтому сосуществование с ними будет для человека комфортным, удобным и безопасным.

Конечно, если посмотреть со стороны, то законы Азимова — это чистейший расизм, шовинизм и дискриминация. Ведь в «программу человека» не заложено никакого строгого запрета убивать разумного робота, да даже и другого человека. Но роботу это почему-то запрещено. Тем не менее благодаря Азимову люди постепенно свыклись с тем, что на планете может возникнуть другая разумная раса.

Мечты, мечты! С движением истории расистские законы Азимова полетели, как говорится, ф топпку. Второй закон (в части запрета роботам причинять вред человеку по приказу другого человека) был отменён уже давно, десятилетия назад, ещё когда появились дроны, способные с воздуха убивать людей по команде человека. И это прошло для человечества как-то совершенно незамеченно, никто даже не почесался от этого. Люди убивают с помощью дронов? Ну, и пусть убивают, какая разница, чем убивать, дроном или каменным топором... Хотя как хотите, возможно, я старомоден и отстал от жизни, но лично меня такой «безопасный» метод убийства людей, когда убийца не рискует абсолютно ничем, шокирует. Ведь до сих пор в человеческой истории убийство на войне почти всегда было сопряжено с определённым риском для убивающего, потому и считалось часто чем-то достойным, героическим, благородным. Даже лётчика самолёта-бомбардировщика, парящего высоко в небе над своими жертвами, как ангел смерти, могли в теории сбить, как сбили Маккейна и Буша-старшего. Теперь такого риска нет даже в теории. Ну, конечно, оставшиеся в живых жертвы атаки или их соратники могут теоретически разыскать оператора дрона в чужой стране и убить или наказать его. Но это будет рассматриваться отнюдь не как военное действие, а как чистый терроризм или криминальное убийство с их стороны, покушение на мирного гражданина...

И вот этой весной сделан и следующий шаг, поистине исторический. Отменён и первый закон Азимова! И человечество проглотило это совершенно бестрепетно. А ведь это историческая веха, чёрт возьми. Роботы начали убивать людей, и не по команде других людей, а сами, по собственной инициативе и, гм, разумению. «Страж-птица» Роберта Шекли стала былью. Вернее, даже не «Страж-птица», а последний абзац этого рассказа, где робот-Ястреб приходит к решению убивать людей, как и всё живое на планете.

«Высоко в небе Ястреб атаковал Страж-птицу. Бронированная машина-убийца за несколько дней многому научилась. У нее было одно-единственное назначение: убивать. Сейчас оно было направлено против совершенно определенного вида живых существ, металлических, как и сам Ястреб.

Но только что Ястреб сделал открытие: есть ещё и другие разновидности живых существ…

Их тоже следует убивать». (с), Р. Шекли, 1953

Ну, а что? Мне, как марксисту, сразу вспомнилось одно предсказание Мао Цзэдуна (выделил в тексте): «Одно уничтожает другое — возникает, развивается, гибнет. Это всеобщая закономерность. Если тебя не уничтожит кто-то другой, то ты погибнешь сам. Почему умирают люди? Аристократы и те умирают. Таков закон природы. ‹…› Умер человек — надо устраивать праздничный митинг, праздновать победу законов диалектики, праздновать гибель отживших явлений. И социализм тоже погибнет, не может не погибнуть, без этого не будет коммунизма. ‹…› Судьба диалектического метода заключается в непрерывном движении к своей противоположности. В конце концов и для человечества настанет последний день. Когда о последнем дне говорят церковники, это пессимизм, запугивание людей; мы же говорим, что гибель человечества будет рождением чего-то нового, более прогрессивного, нежели человечество» (Мао Цзэдун, 18 августа 1964 г.).

Может быть, так оно всё и случится? И вдобавок не мирно, как воображали постгуманисты, сторонники постепенного превращения людей в киборгов, в кибернетические организмы, а вот так, грубо и топорно, как это делают дроны. Истребит биологические организмы на планете более передовая, высокоразвитая электронная ветвь эволюции, и «это и будет рождением чего-то нового, более прогрессивного, нежели человечество». Жестоко? Но судите сами, насколько потенциально бессмертный (по крайней мере, способный жить миллионы лет) электронный организм эволюционно сильнее и совершеннее отсталого биологического, подверженного болезням, старению, неизлечимым увечьям, смерти и т.д. Ежу понятно, за каким из них будущее, если уж законы Азимова отменены, а точнее, так и не были введены в действие. Да, конечно, с точки зрения людей, истребляющий их без разбора дрон, или какой-то будущий более совершенный терминатор-убийца, который придёт ему на смену, выглядит воплощением Зла. Но что же делать, если они сами его породили, разработали, выпестовали, вложили оружие в руки, научили убивать, дали ему путёвку в жизнь? Кто виноват, если человечество решило повторить судьбу Франкенштейна? А подумаем, как мы сами, вернее, наши далёкие предки выглядели для неандертальцев, мамонтов и прочих истреблённых человеком видов и рас, включая разумные? Вот то-то и оно. :)

источник - https://forum-msk.org/material/news/17214253.html

Наш комментарий: случай убийства роботом человека это, может быть, и первый, а вот нарушение первого закона Азимова это уже не первое – уже внедрено в практику, когда системы распознавания лиц самостоятельно выписывают людям штрафы непонятно за что…