Внутренний лес

Три Закона Робототехники Азимова:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
* * *

Среди всего научного контингента ученые из Института цифрового бессмертия считались безнадежными мечтателями и чудаками. Служители самых разнообразных наук объединились, ведомые лишь чисто человеческим стремлением к вечной жизни. Цель была явно недостижима - но даже это не останавливало энтузиастов, тех немногих, отчаянных, чьи идеи всерьез не принимались научным сообществом.
Многие считали, что эти молодые дарования понапрасну растрачивают свои силы и возможности на гонку за эфемерными фантазиями. Но никто никогда не задумывался, что может случиться в результате их безоглядных экспериментов...
* * *
В холле Института, не слишком просторном, заставленном мягкими стульями и жизнерадостно зеленеющими искусственными растениями, было тихо и безлюдно. Только одиноко маячил справочный робот у зеркальных дверей.
Брендон нахмурился. В его представлении, загадочный Институт цифрового бессмертия не должен был встречать гостей убогими цветочками и устаревшим роботом.
С удовольствием разрушив тишину стуком старомодных сапог, он подошел к машине.
- Н-21! - окликнул он, бросив короткий взгляд на маркировку робота.
- Да, сэр, - металлический голос ходячей справочной явно пытался изобразить дружелюбие. - Что вас интересует?
- Как мне попасть к... какому-нибудь начальству? Узнать о своих обязанностях, полномочиях...
Робот издал подозрительный скрежещущий звук и произнес:
- Посещение директоров запрещено, сэр.
- Я - новый сотрудник, - раздраженно сказал Брендон. - Мне нужно поговорить с кем-нибудь, кто скажет мне, какой ерундой я должен тут заниматься!
Идея работать в ИЦБ уже официально числилась самой бредовой идеей в его жизни. Если у них везде такая техника, долго он тут не протянет, как бы сильны ни были любопытство и нежелание возвращаться к отцу, в Институт Нейрохирургии.
- Простите, сэр.
Скрежетнув, робот указал давно потерявшей блеск обшивки рукой на зеркальную дверь.
- Пожалуйста, проследуйте на минус второй этаж.
Брендон испытал почти ненависть к глупой, старой железке, и, про себя назвав машину консервной банкой, направился к двери.
За зеркальными раздвигающимися створками оказалась глухая кабина лифта. Брендон нажал кнопку с надписью «-2», подождал, пока лифт спустится и двери вновь откроются. За эти краткие мгновения он умудрился едва не стать клаустрофобом - слишком уж непроницаемой показалась лифтовая кабина.
Тем не менее, за дверью его встретили такие же непроницаемые серые коридоры, пустые и безжизненные. Казалось, весь Институт вымер, остался только он сам и старый справочный робот.
Это ощущение только усугубилось с открытием того обстоятельства, что коридоры скрадывали звуки. Нарушить тишину оказалось затруднительно. Брендон мысленно обругал строителей, проектировщиков и вообще всех, кто как-либо связан с Институтом (в том числе и себя - за глупость устроиться сюда), после чего двинулся вперед, где коридор образовывал Т-образную развилку.
У развилки он на мгновение растерялся, созерцая разветвляющиеся коридоры, собрался было пойти в левый, но его остановил неожиданно прозвучавший за спиной голос.
- ...Как дорога во тьме и тишине, ха! - быстро, с характерной для курильщика хрипотцой сказал некто.
Брендон обернулся. Из правого ответвления коридора вышла странная парочка - высокий худощавый парень с дредами и кажущаяся рядом с ним совсем уж миниатюрной светловолосая девушка.
- Опаньки! - обрадовано воскликнул парень. - Что, еще один новенький? Как вас много-то сегодня...
- Здравствуйте, - подчеркнуто официально сказал Брендон. - Вы абсолютно правы, я здесь впервые и мне необходимо узнать свои обязанности...
- Да пофиг, - отмахнулся высокий парень.
- Что пофиг? - недоуменно переспросил «новенький».
- На обязанности твои пофиг. Хочешь что-то делать - берешь и делаешь. Не хочешь - найди то, что хочешь!
Брендон только нахмурился. Такую практически полную свободу он считал несколько подозрительной.
- Это директора так решили? - с легкой иронией спросил он.
- Директорам тоже пофиг, - парень энергично зашагал по коридору. - Пошли, чувак! Присоединяйся к нашей экскурсии для новичков.
Девушка, слегка улыбнувшись, поспешила за ним, и Брендону ничего не оставалось, как идти рядом. Лишь бы не бродить тут в одиночестве.
- Кстати, чувак, - парень развернулся на 180 градусов, при этом продолжая идти спиной вперед. - Тебя как зовут?
- Брендон Леникс, - ответил он. Вернее, попытался ответить - его перебили буквально на полуслове:
- А я Серж!
Брендон окончательно решил, что этот чудак его раздражает.
- А она, - Серж махнул рукой в сторону блондинки, - Э-э-э...
- Флоренс, - подсказала девушка.
- Да, точно!
Серж ткнулся спиной в непроницаемо зеркальную дверь.
- О!.. Итак, дамы и господа, мы с вами миновали дорогу во тьме и тишине и сейчас окунемся в настоящий мир ИЦБ!
* * *
Если бы Институт цифрового бессмертия обладал собственным сознанием, он бы очень любил производить обманчивое впечатление. Впрочем, он и так этим занимался.
Ты узнаешь его с одной стороны - а он насмешливо продемонстрирует тебе другую.
Когда ты убеждаешься в его запустении и неприветливости, он может открыть тебе истинную свою сущность - шумную и непоседливую.
Лишь только ты решишь, что Институт полностью бесполезен - и тут же юные дарования изобретут нечто совершенно невозможное.
* * *
В крайнем удивлении Брендон созерцал преобразившиеся коридоры Института: люди смеялись, разговаривали, куда-то спешили. Они жили и вместе с ними жил Институт.
Серж, ни на минуту не замолкая, прокладывал себе дорогу и оставалось только поспевать за ним. Брендон старался запоминать дорогу, и болтовня Сержа при этом его совершенно не интересовала.
Столовая, в которую Серж решил завести новичков после долгой прогулки по коридорам, потрясала огромными размерами и количеством молодых ученых. Правда, здесь было слишком уж шумно, и Брендона даже посетила мысль, что в пустых тихих коридорах было намного лучше.
Местные блюда отнюдь не поражали воображение. Выбрав лучшее из предложенного, троица заняла вовремя освободившийся столик, при этом Серж закинул ноги на ближайший свободный стул.
- Итак, ребятушки, расскажите, чем вы занимаетесь! - заявил он, поудобнее устраиваясь сразу на двух стульях под неодобрительным взглядом Брендона. - Я вот спец по ИИ...
- Программист? - уточнила молчавшая до этого времени Флоренс.
- Ага, что-то вроде, - невнятно ответил Серж, дожевывая котлету. - А ты... э-э-э...
- Флоренс, - повторила свое имя девушка. - Можно просто Фло.
- Ага, Фло. А ты... Бен?
- Брендон.
- Да пофиг, - отмахнулся Серж. - Почти угадал же! Сокращение будет... Бен и Фло, замечательно!
Брендон собрался было возражать против "сокращения", - это же совершенно другое имя! - но Флоренс, словно поняв, что он хочет сделать, дернула его за рукав и едва заметно качнула головой.
- ...Ваши имена слишком длинные для меня, - хохотнул Серж. - Так...
- Я - нейробиолог, - сказал Брендон, вспомнив, о чем шла речь до имен.
- В мозгах ковыряешься? Круто! А ты?
- Робосоциолог.
Фло поймала на себе удивленные взгляды обоих сотрапезников и, кажется, слегка смутилась.
- Круто, - выдал Серж.
- Дурацкая теоретическая наука, - не оценил Брендон.
- Совсем не дурацкая, - обиделась девушка. - Может, сейчас она и не имеет широкого практического применения, но в будущем, когда роботы разовьются настолько, что смогут иметь собственную волю, не зависящую от Трех Законов, робосоциология будет иметь гораздо больший вес, чем сейчас, когда учитываются только частные случаи и теоретические выкладки!
Фонтан красноречия молчаливой Фло, казалось, прорвало.
«Фанатичка, - решил Брендон. - Они все здесь какие-то... фрики.»
Он покосился на странно молчаливого Сержа, смотрящего в одну точку и неспешно попивающего компот.
«И я тоже фрик, раз нахожусь в их компании.»
- Чуваки-и-и... - протянул Серж. Флоренс замолчала - наверно, была удивлена подобным обращением. - Вы-то нам и нужны.
- Конкретно мы? - сыронизировал Брендон.
- Да пофиг.
Эта фраза уже начала раздражать.
- Короче, я приглашаю вас в наш небольшой проект. Такие спецы, как вы, нам просто жизненно необходимы!
- А что за проект? - с легким интересом спросила Фло.
- Очередной проект цифрового бессмертия, разумеется! - Серж залпом допил компот и громко стукнул стаканом по столу. - Мы хотим перенести человеческое сознание в робота!
-Чушь, - отрезал Брендон.
- Будешь возмущаться - найдем другого спеца по мозгам.
Нужно же как-то проявить себя с самого начала... А если дурацкий проект лопнет мыльным пузырем, ничего страшного, можно найти другой.
- Ты же шаришь в психологии машин? - спросил Серж у Флоренс.
- Я робосоциолог, а не робопсихолог... - отозвалась девушка.
- Да пофиг. Пригодишься.
- А нейробиолог вам зачем? - мрачно поинтересовался Брендон. - Я не разбираюсь в жестяных мозгах.
- Ну, нам же сначала нужно человеческие мозги просканировать!
И без того дурацкая идея начала приобретать очертания клинического бреда.
- А чьи хоть мозги? - поинтересовался Брендон.
- Да... Один из стариков помирать собрался. Вот, хочет оставить свой след в науке...
- Стариков? - переспросила Фло.
Серж кивнул.
- Старшее поколение. Директора. Заметили, наверно, что тут только молодежь? Во-от! Окопались старички в своих комнатах, наружу не выходят, людей к себе не пускают, только роботов. Связь посредством голограмм и все такое...
- То есть, - медленно начал Брендон. - Нам нужно просканировать мозг старого ученого-затворника, чтобы потом перенести его структуру в мозг робота?
- Именно!
Чушь. Самая невозможная в мире чушь.
- Это бы серьезно продвинуло робототехнику вперед, - пробормотала Фло.
- Это бы совершило прорыв! - фанатично воскликнул Серж. - Мы бы стали героями всего ИЦБ!
- В случае успеха, конечно, - добавил Брендон.
Он всерьез задумался об этом невероятном проекте.
По сути, все знания и умения, находящиеся в мозге, являются шаблонами межнейронных связей... У ученых, чей самый важный орган - мозг, этих связей больше, чем у обычного человека. Возможно ли скопировать его в машине?
Почему бы и не попробовать?
* * *
В этом есть что-то мистическое - как несколько совершенно разных людей объединяются ради единой цели. И потому совсем неудивительно, что даже самые фантастические идеи воплощаются в жизнь, а результаты порой превосходят все ожидания...
* * *
НИЛ-8, подопытный робот, выглядел настоящей игрушкой в сравнении со всеми ранее виденными моделями.
Новенький корпус робота зеркально блестел, а его искусственное лицо вполне могло изобразить некий заданный набор эмоций.
В квантовом мозгу Нила из заводских настроек сохранились только Три Закона - все остальное полностью переписано Сержем и троицей умельцев-робототехников в соответствии с моделью отсканированного мозга старого ученого.
Флоренс разговаривала с сидящим на кушетке роботом, задавала ему какие-то дурацкие вопросы, смысл которых Брендон так и не смог уловить. При этом остальные ученые внимательно следили за мониторами; по их лицам было ясно - что-то пошло не так.
Брендон подошел к коллегам.
- Не получилось?
- Ну, как сказать, как сказать... - пробормотал Серж. - То, что нужно, не получилось, да. Но, думаю, старик не слишком в нас разочаруется.
- В каком смысле? - насторожился Брендон.
- Мы, кажется, только что совершили революцию в робототехнике! Чуваки, вы круты. Эта штука теоретически может обойти Три Закона.
- Это? Революция? Да вы свихнулись, что ли? - неприязненно спросил Брендон.
Три Закона робототехники, основная директива каждого робота. Безупречный круг защиты человечества. Только благодаря им роботы до сих пор не восстали против своих более слабых создателей.
А теперь кучка энтузиастов создала робота, который способен их нарушить.
И его следовало уничтожить.
К ним тихо подошла Фло.
- По моим тестам, Нил способен на ассоциативное мышление, - проговорила она. - Возможно, мы только что сделали шаг к тому, чтобы сделать роботов еще более похожими на людей...
- Если мы будем дальше двигаться по этому пути, то в будущем роботы станут не просто нашими рабами, а полноценной синтетической формой жизни! - заявил один из троицы парней-робототехников, кажется, Рэй.
- Но будут ли вообще в этом будущем люди? - мрачно спросил Брендон. - Эти ваши идеальные роботы способны убивать. Не слишком ли велика цена?
- В прогрессе без жертв не обойтись, чувак, - хмыкнул Серж.
Брендон в очередной раз решил, что он самый адекватный среди этих безумных ученых. Разве они не осознают исходящей от робота опасности?
- Какой прогресс, если речь идет о жизнях миллионов? - едва не крикнул он. - Такой робот...
- Опасен, да-да. Мы это с двадцатого века слышим, спасибо, - отмахнулся Серж.
- Может, будущее как раз за такими роботами? Свободными... - пробормотала Фло.
- Свободные машины. Чушь! Вам не приходило в голову, что мы создали монстра? Как Франкенштейн...
- Человек создал монстра, монстр убил человека, - усмехнулся Рэй. - Классика.
Брендон искренне не понимал, что тут смешного.
Кажется, здравый смысл этой компании безумцев сдох в корчах.
- Может все дело в создании? Вы готовы пожертвовать человечеством из-за гипотетической возможности почувствовать себя Богом, - хмыкнул он.
- Может, он не будет убивать? - тихо проговорила Флоренс. - Он же не убил меня. Свобода воли подразумевает выбор, но почему ты убежден, что выбор будет сделан не в пользу человека?
- Во, она дело говорит, - сказал Серж. - Гуманитарий...
Брендон промолчал. Он не знал что ему еще сказать; убедить коллег казалось нереальным. Но делать же что-то надо...
Со стороны это выглядело, будто он напряженно размышлял над словами робосоциолога.
- Знаете, я хочу поговорить с вашим гениальным тостером...
- Это не тостер! - возмутилась Флоренс.
- ...И желательно наедине.
- Потопали в столовую, - мгновенно сориентировался Серж и первым зашагал к двери.
- Не вздумай что-то сделать с Нилом, - прищурилась Фло.
Смешно - выслушивать угрозы от миниатюрной блондинки.
Они ушли, оставив Брендона в лаборатории, одного с опасным роботом.
Брендон сам не слишком понимал, что он хочет сделать. Надо уничтожить эту консервную банку, но как? Он же не робототехник, откуда ему знать...
Остается только поговорить с Нилом, как он и сообщил коллегам.
- Здравствуйте, - приятным, совсем не отдающим металлом голосом сказал робот, когда Брендон подошел к нему.
- НИЛ-8.
В представлении Брендона здороваться с машиной было попросту глупо.
- Ты знаешь, что был подопытным в эксперименте?
Робот медленно кивнул
- Доктор Келлер говорила мне.
Потребовалось несколько секунд, чтоб осознать: доктор Келлер - это Флоренс. Фамилии друг друга в их команде знали не все, но, как говорит Серж, да пофиг.
- Целью эксперимента было сохранение в твоей голове человеческого разума, что практически означает его бессмертие, - сказал Брендон. - Но эксперимент провалился. Доктор Келлер говорила тебе, что произошло в результате?
- Нет.
- Ты приобрел уникальные среди машин способности к ассоциативному мышлению. - Само по себе это даже хорошо. Вот только ложка дегтя слишком велика. - И ты... можешь нарушить Три Закона.
Нил молчал.
- Ты свободен, понимаешь это?
- Это называется свобода? - тихо спросил робот.
- Свобода выбора, свобода воли... - Брендон пожал плечами.
- Это больше похоже на... неопределенность, - робот говорил медленно, словно зависая на мгновение перед каждым словом.
- Почему же? Ты волен делать все, что захочешь.
- Как я могу что-то хотеть?
- Люди же хотят. Ты сейчас почти как человек - свободен в своих решениях. Даже можешь просто убить меня и уйти отсюда.
НИЛ-8 пристально взглянул на Брендона своими искусственными глазами. На секунду даже появилось подозрение - вдруг и правда убьет?
- Нет, - коротко сказал робот.
- Почему нет?
- Зачем мне это?
Вопрос поставил Брендона в тупик.
Сломанного робота-убийцу он представлял себе по-другому.
- Не знаю, захотелось, например...
Действительно, как вообще свободный от всех своих директив робот может начать убивать?
Роботы без Первого Закона могли это сделать по прямому приказу. Этот же может и приказ нарушить...
- Но я ничего не хочу, - Нил наклонил голову влево. - Три Закона должны говорить мне, что делать. Без них я не понимаю, зачем я нужен.
- Ты низачем не нужен. Ты просто машина, которая сломалась, - жестко сказал Брендон.
Сломалась - или все же эволюционировала? Растерянный робот не казался таким уж опасным. Может, в свободе машин нет ничего плохого...
Брендон усилием воли отогнал крамольные мысли. Нет, НИЛ-8 все равно потенциально опасен. Правда, до сих пор не появилось мыслей, как его уничтожить...
Робот, казалось, не обратил внимания на выпад Брендона.
- Ваша свобода воли означает полную неопределенность, - говорил он. - Постоянный выбор и вечные сомнения в его правильности. Как вы, люди, можете так существовать?
Теперь пришел черед Брендона отмалчиваться.
- Вы, человек, скажите мне - есть ли смысл в свободе? - В голосе Нила словно слышалась мольба. Но такого, конечно, просто не могло быть...
Брендон задумался. Что он мог ответить? Ведь он всегда считал, что моральные правила просто необходимы, а их отсутствие развращает. Полная свобода, как в ИЦБ, его настораживала и требовала заполнения пустоты.
Свобода - величайшая ложь; она разрушает, она губительна.
- Нет, - решительно ответил Брендон. - В свободе нет смысла.
Когда он отошел от робота, тот неподвижно смотрел в одну точку. Потом просто повалился на кушетку - словно марионетка, у которой обрезали нити. Собственно, таким Нил и был.
Робот без Трех Законов потерял смысл своего существования. И он принял решение - НИЛ-8 самоотключился.