Чтение онлайн

От услышанного Джейдер едва сдержал смех.

— Ну а что? — смутилась Сьюзен. — Результаты эксперимента при этом будут безнадежно испорчены, и мы даже не узнаем об этом!

— Если машины начнут ругаться матом и шлепать проходящих мимо девиц, то это точно Талард, — подтвердил Джейдер, подняв большой палец вверх.

— Ну… — пожала плечами Сьюзен. — Такие роботы нам как раз не нужны. Вы и сами отлично справляетесь с этой работой.

— Тут я с тобой согласен, — произнес Джейдер, украдкой посмотрев на гистограмму ее пульса. — Без обид, я знаю, что ты фанатка своего дела, но я вообще думаю, что весь этот проект, вся эта вавилонская башня — попросту не нужна. Справлялись ведь как-то сами со всеми этими трудностями, без всяких роботов.

Сьюзен на мгновение

остановилась.

— Ты же сейчас несерьезно, Джейдер? Время не стоит на месте. Ты только представь полностью самовоспроизводящиеся машины под контролем сверхразумного коллективного интеллекта. Неужели ты не представляешь, какие возможности это откроет для всего человечества?

— Боюсь, ничем хорошим для человечества это не закончится, — покачал головой Джейдер. — Посмотри на Землю. Уверен, что, когда светлые головы продвигали революцию искусственного интеллекта, они думали, что это решит все проблемы на планете. А в итоге богатые стали еще богаче, а миллиарды людей потеряли работу. Помяни мое слово, как только вы его завершите, парни вроде меня станут не нужны.

— Но ведь тогда все было по-другому! — возразила Сьюзен. — Космос — это не Земля, это другое. Джейдер, ну не мне же тебе говорить о том, как опасен космос? Здесь все хочет убить нас. Маленькая дырочка в скафандре — это смерть, — она невольно поежилась.

— Мы вынуждены прятаться в пещерах, как мышки! А радиация? А негативное воздействие слабой гравитации? Как бы мы не ухищрялись, как бы мы не модифицировали свои тела, мы вряд ли когда-либо приспособимся к таким условиям, — произнесла она, разведя руками. — Но совсем другое дело — машины. Они лишены наших недостатков. Джейдер, если на Земле машины вступали в конкуренцию с людьми, то здесь они будут верными помощниками и сделают космос безопаснее и пригоднее для нас.

— Я же говорю, — ответил Джейдер, замедляя прыжки, — как и все ученые, ты все время рассуждаешь о благе для какого-то абстрактного человечества. Ты мыслишь слишком глобально. Остановись на минутку и посмотри вокруг.

Он провел рукой, жестом повторив предложение оценить окружающий пейзаж. Они стояли посреди ледяного плато, простирающегося до самого подножья криовулкана.

— Кажется, что мы здесь единственные живые существа. Одни на всей планете, не так ли?

— От этого вида на душе становится одиноко, но, не отрицаю, это впечатляет, — тихо ответила Сьюзен.

Джейдера устроил ответ, и он продолжил:

— Если у вас получится и вы завершите этот проект фон Неймана, весь этот мир изменится до неузнаваемости. Сначала машины расплодятся до несметных полчищ и заселят каждый чертов камень в Солнечной системе. Потом они отстроят огромные города для нас. Видишь это плато? На его месте будет огромная магистраль с бесконечными развязками и эстакадами. Видишь вулкан? Его снесут, а на этом месте отгрохают гигантский торговый центр с проклятым кинотеатром и фитнес-центром. А потом будут люди. Неисчислимые толпы людей без работы, потому что нет такой работы, которую они выполнили бы лучше, чем машины. Возможно, ты права, и роботы действительно сделают космос безопаснее и лучше для человечества. Но они определенно сделают его хуже лично для меня и каждого из нас. Здесь я кто-то. Я инженер, от которого зависят жизни людей, а там, на Земле, я был никем. Просто человечишка из толпы.

Сьюзен повернулась и посмотрела на Джейдера. Он увидел ее взгляд сквозь блики светофильтра, отражающего тусклый свет далекого Солнца.

— Дурак ты, Джейдер. Дурак и эгоист в придачу, — произнесла она и, повернувшись спиной, продолжила путь. Она шла так, будто знала, куда идти, и больше не нуждалась в его сопровождении.

«Ну, по крайней мере от прежнего волнения не осталось и следа», — подумал про себя Джейдер, потирая забрало шлема.

— Постой, подожди меня. Или тебе больше не нужен сопровождающий?

Сьюзен шла впереди и совершенно не торопилась с ответом.

— Ставить свое счастье выше счастья для всех… — наконец произнесла она, с плохо скрываемой обидой в голосе. — Это так эгоистично.

— Ну,

такова наша природа, — пожал плечами Джейдер. — Все мы, люди, эгоисты, начиная с рождения. Вся жизнь построена на этом принципе.

— Хорошо, что роботы лишены всех этих людских пороков, — неожиданно перебила его Сьюзен. — В этом плане они намного лучше нас.

— Кто, роботы?! Ну конечно, — усмехнулся Джейдер. — Они лишены всего человеческого, как и любая бездушная болванка.

— Думаешь? — рассмеялась Сьюзен. — Да любой робот даст тебе фору в решении любых моральных проблем! Еще непонятно, кто из вас окажется более человечным.

— Зачем роботам решать моральные проблемы? — смутился Джейдер.

«Вот уж докатились. Теперь роботы для нее более человечны, чем я», — подумал он про себя.

— Эти роботы и живого человека за всю свою жизнь не увидят. Будут себе работать где-нибудь в шахтах за поясом Койпера. Не самое подходящее место для проявления человеческих качеств.

Сьюзен улыбнулась. Как и от любой женщины, от нее сложно было скрыть истинные эмоции даже за забралом скафандра.

— А ты бы выпустил на свободу мощный искусственный интеллект, будучи неуверенным, что он имеет твердое представления о морали и добре?

— Я бы его вообще не выпустил, — отрезал Джейдер. — В крайнем случае приделал бы к нему красную кнопку, способную отключить его напрочь.

— Ну, никто не хочет выпускать джина из бутылки без уверенности, что этот джинн добрый, — согласилась Сьюзен. — Ведь загнать его обратно будет очень трудно. Да, есть фундаментальные законы робототехники, по которым машины обязаны не причинять вреда человеку и слушать его приказы. Но этого недостаточно. Любой достаточно продвинутый искусственный интеллект способен обойти их. Поэтому мы обучаем его и проверяем его убеждения на прочность. Могу похвастаться, что сейчас машины решают такие моральные дилеммы, которые не под силу многим людям.

— Прекрасно. Почему бы им не заменить нас полностью, чего уж мелочиться, — недовольно пробурчал Джейдер.

— Кто знает. Может, когда-нибудь придет время, когда это не будет считаться чем-то плохим. Джейдер, а давай и тебя проверим. Попробуй решить простейшую моральную задачу для робота, мне интересно, как ты поступишь.

— Мне кажется, для тебя уже не существует разницы, робот перед тобой или человек, — покачал головой Джейдер. — Давай уж, попробую отстоять честь человечества.

— Хорошо, представь автоматический танкер, который доставляет кислород на небольшую научную станцию А с населением двадцать человек, — продолжила Сьюзен с нескрываемым азартом в голосе. — Станция А находится далеко, и наш танкер единственный, что регулярно поставляет кислород на станцию. Вдруг на большой жилой станции Б населением в тысячу человек произошла авария, повлекшая за собой отказ системы жизнеобеспечения. Наш танкер может изменить свой курс, чтобы помочь жилой станции Б и спасти жителей, но при этом ученые станции А умрут, не получив кислород вовремя. Перед машиной встает выбор: спасти тысячу жителей жилой станции, убив при этом двадцать ученых, либо продолжить намеченный курс и своим бездействием позволить погибнуть тысяче. Как бы поступил ты на месте машины?

— Я бы выбрал двадцать ученых, — немного подумав, ответил Джейдер.

— Да? — удивленно протянула Сьюзен. — И почему же?

— Жизни ученых зависят от меня, и поставлять кислород — моя профессиональная ответственность. Если на жилой станции Б случится авария, а я не откликнусь на зов помощи и пролечу мимо, жители станции погибнут из-за меня? Нет, они погибнут из-за аварии, а я не понесу ответственности за их гибель. Но если я откликнусь на зов помощи и направлю танкер к жилой станции Б, чтобы спасти жителей, — я возьму ответственность за смерть двадцати человек, и это будет осознанным массовым убийством. Думаешь, родные погибших отнеслись бы с пониманием к такому благородству? Да меня с кишками съели бы и не подавились. Когда случаются подобные ситуации, где нужно быстро принимать решения, люди действуют эмоционально и уж точно не вдаются в философию, — подытожил Джейдер.