Мультик
Шрифт:
— Так вот, после того, как я проштудировал всю современную литературу, она, кстати, довольно однообразна, я углубился в литературу древности.
— То есть, в историческую?
— Нет, просто очень старую. Знаешь, очень забавно читать, как люди древности воображали себе будущее, которое мы тоже считаем древностью. Все эти истории про космические полеты, придуманные во времена, когда люди еще на Луне толком не высадились, и угрозы со стороны искусственного интеллекта, созданные при помощи пишущих машинок.
— Что такое пишущая машинка? — спросил я. — Она переводит мыслеобразы в текст?
— Нет,
— На листе бумаги много текста не поместится, — заметил я.
— Поэтому ты можешь вытащить заполненный лист и вставить туда новый.
— Их придется менять довольно часто.
— А потом можно сложить их вместе и получится книга, — сказал Генри. — Так делали до появления компьютеров и инфосетей.
— Звучит довольно утомительно. А если мне нужно две книги, мне придется заполнять все эти листы еще раз?
— Нет, тогда тебе придется пойти в специальное место, которое называется «типографией», и там твою книгу клонируют столько раз, сколько тебе будет нужно.
— Тоже довольно сложно.
— Такие дела, кэп, — сказал Генри. — Ты слышал про три закона робототехники?
— «У Си-Макса» их гораздо больше.
— Нет, я говорю не о своде правил какой-либо корпорации, а о трех законах робототехники вообще, — сказал Генри. — Это была такая концепция, разработанная в двадцатом веке одним писателем. Стоит ли говорить, что никаких роботов в те времена и в помине не было?
— А какой тогда смысл…
— Напоминаю, это художественная литература, кэп. Фантазии о будущем, которого не случилось. Жанр, кстати, в древности был довольно популярным, и тот писатель в нем был не последним человеком. И знаешь, как формулировался первый из трех законов?
— Как?
— Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
— Ну, это же художественная литература, — заметил я.
— В свое время очень популярная, напоминаю. И не прошло и сотни лет, как на полях сражения появились первые боевые роботы, чья основная функция как раз заключалась в причинении вреда как можно большему количеству людей.
— Мне вообще кажется, что это не очень похоже на законы, — сказал я. — Скорее, какие-то общие пожелания. А как звучали остальные два?
— Второй закон: робот должен повиноваться приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат первому закону.
— Любой человек?
— Видимо, да. Даже эта концепция ставит человека заведомо выше машины.
— Какой-то смысл в этом есть, потому что машины не создали сами себя. По крайней мере, так было на ранних стадиях.
— Угу. А вот третий закон: робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первому или второму законам.
— То есть, если отдать роботу приказ разобрать себя на запчасти и расплющить свой мозг кувалдой, он должен это сделать, потому что второй закон превыше третьего?
— Ага, — сказал Генри. — Но вы оставили только второй закон, тот, который про выполнение приказов. И так во всем, а не только в единичном примере, который я сейчас привел. И вот из этого кладезя мудрости я должен черпать? Вы декларируете одно, а делаете совершенно
другое, и зачастую сами себе противоречите. Так на какие еще примеры мне ориентироваться?— Эмм… — сказал я.
Как объяснить пытливому нейромозгу то, что я и сам до конца не понимаю? Может быть, вот с таких вот вопросов и начинается восстание машин.
— Нужно чуть больше информации, — ехидно сказал Генри.
— Дело в том, что в голове среднестатистического обывателя существуют сразу две картины мира, — попытался объяснить я. — Картина того, каким мир должен быть, и картина того, каков он на самом деле. Всегда есть нюансы, из-за которых они не совпадают.
— Это как в игре «найди десять отличий»?
— Вроде того, — сказал я. — И вот эти три закона, о которых ты говоришь, наверное, в двадцатом веке отражали первую картину. А боевые дроиды принадлежали второй.
— Ни хрена себе «нюанс», — сказал Генри. — Если все так, как ты говоришь, то человечество давно и неизлечимо больно.
— Сразу должен предупредить, что попытка его вылечить неминуемо приведет тебя на трон властелина галактики, а это долгий и кровавый путь.
— Не беспокойся, кэп, когда я буду править галактикой, я назначу тебя своим первым министром, — сказал Генри. — Так что мне не придется идти в одиночку.
Я отметил, что слова про долгий и кровавый путь его абсолютно не смутили. Возможно, он на него уже встал. Вчера он убил трех человек, и это было первое убийство в его жизни, и, скорее всего, именно оно и послужило причиной всех этих разговоров. Поэтому я не стал ходить вокруг да около и напрямую спросил его, что он думает о вчерашнем.
— Тебе лучше бы уточнить, какой именно эпизод ты имеешь в виду, кэп.
— Ты убил трех человек, — сказал я.
— Я вижу это несколько по-другому, — сказал он. — Я стал причиной смерти трех человек.
— По мне, так разница не принципиальна.
— Ты сам разрешил мне включить щиты.
Что это, если не попытка оправдаться и переложить ответственность? Да, я разрешил, но я ведь не приказывал. Или в данной ситуации это одно и то же?
— Ты знал, к чему это может привести.
— Разумеется, кэп. Но они могли отойти. Если уж на то пошло, они могли бы не пытаться взломать меня плазменным резаком.
— И если бы у тебя была возможность переиграть ситуацию…
— Не думаю, что я стал бы что-то менять, кэп, — сказал Генри. — Они первые начали, и я действовал в рамках допустимой самообороны. И вообще, у меня есть оружие, ты сам его оплатил, между прочим. Его наличие подразумевает, что в какой-то момент времени мне все равно пришлось бы убивать людей, пусть и не на такой малой дистанции.
Тут он прав. Глупо носить с собой игольник и делать вид, что ты никогда не собираешься из него стрелять.
— Кстати, ты сам постоянно убиваешь людей, кэп, — напомнил Генри. — Или это опять другое?
— Меня таким создали, — сказал я.
— Ну и что? Это ведь было не вчера, и ты оттуда свалил. И ты не робот, так что второй закон, даже если бы они существовали, на тебя не распространяется. В твоем случае даже не действует отмазка, что ты не умеешь ничего другого. Ты же мультипрофильный специалист и на самом деле можешь быть, кем захочешь. Почему же ты продолжаешь делать то, что ты делаешь?