Заминка на праздновании Трехсотлетия 16 страница
Блэк говорил:
– Мне сказали, что я последним видел Нестора‑10 перед тем, как он исчез. Насколько я понимаю, вас интересует именно это.
Доктор Кэлвин с интересом разглядывала его.
– Вы говорите так, молодой человек, как будто вы в этом не совсем уверены. Вы не знаете точно, были ли вы последним, кто видел Нестора?
– Мы с ним занимались генераторами поля, и он был со мной в то утро, когда исчез. А видел ли его кто‑нибудь потом, скажем после полудня, я не знаю. Во всяком случае, никто в этом пока не сознался.
– Вы считаете, кто‑то это скрывает?
– Ничего подобного я не говорил. Но почему вся вина должна лежать на мне? – Его черные глаза горели.
– Ни о какой вине речь не идет. Робот так действовал, потому что он так устроен. Мы просто пытаемся найти его, мистер Блэк, а все остальное нас не интересует. Так вот, если вы работали с этим роботом, вы, вероятно, знаете его лучше других. Не заметили ли вы чего‑нибудь необычного в его поведении? Вообще вы раньше работали с роботами?
– Я работал с теми роботами, которые были у нас тут до этого, – с обыкновенными. Несторы ничем от них не отличались, разве что они гораздо умнее и еще, пожалуй, назойливее.
– Назойливее?
– Видите ли, они в этом, наверное, не виноваты. Работа здесь тяжелая, и почти все мы немного нервничаем. Возиться с гиперпространством – это не шуточки. – Он слабо улыбнулся: ему явно доставляло удовольствие хоть с кем‑то поговорить начистоту. – Мы постоянно рискуем пробить дыру в нормальном пространстве‑времени и вылететь к черту из вселенной вместе с астероидом. Ну и конечно, бывает, что нервы сдают. А с Несторами такого не случается. Они внимательны, спокойны, они не волнуются. Это иногда выводит из себя. Бывает, что нужно сделать что‑нибудь без промедления, но они как будто не торопятся. Мне временами кажется, что без них было бы лучше.
|
|
|
– Вы говорите, что они не торопятся? Разве когда‑нибудь случалось, чтобы они не подчинялись команде?
– Нет‑нет, – поспешно ответил Блэк, – приказы‑то они все выполняют. Но у них есть такая манера – высказывать свое мнение всякий раз, когда им кажется, что ты не прав. Они знают только то, чему мы их научили, но это их не останавливает. Может быть, я и ошибаюсь, но, по‑моему, другим ребятам с Несторами тоже трудно.
Генерал Кэллнер зловеще кашлянул:
– Блэк, почему мне не было об этом доложено?
Молодой физик покраснел.
– Мы же не хотели на самом деле отказываться от роботов, сэр, а потом, мы не знали, как… хм… как будут приняты такие мелочные жалобы.
Богерт мягко прервал его:
– А в то утро, когда вы видели его в последний раз, ничего особенного не случилось?
|
|
|
Наступило молчание. Движением руки Кэлвин остановила генерала, который что‑то хотел сказать, и терпеливо ждала.
Блэк сердито ответил:
– Я немного с ним поругался. Я разбил трубку Кимболла, и пять дней работы пошли насмарку. А я и так уже отстал от плана. К тому же я уже две недели не получаю писем из дома. И вот он является ко мне и хочет, чтобы я повторил эксперимент, про который я уже месяц как забыл. Он давно с этим ко мне приставал, и мне надоело. Я велел ему убираться и с тех пор его не видел.
– Велели убираться? – переспросила Сьюзен Кэлвин с внезапным интересом. – А в каких выражениях? Просто «уйти»? Попытайтесь припомнить ваши слова.
Блэк, очевидно, боролся с собой. Он потер лоб, потом отвел руку и вызывающе произнес:
– Я сказал: «Уйди и не показывайся, чтоб я тебя больше не видел».
Богерт усмехнулся:
– Что он и сделал.
Но Сьюзен Кэлвин это не удовлетворило. Она мягко продолжала:
– Это уже интересно, мистер Блэк. Но нам важны точные детали. Когда имеешь дело с роботами, может иметь значение любое слово, жест, интонация. Вы, наверное, не ограничились этими словами? Судя по вашему рассказу, вы были в плохом настроении. Может быть, вы выразились сильнее?
|
|
|
Молодой человек побагровел.
– Видите ли… Может быть, я и… обругал его немного.
– Как именно?
– Ну, не помню точно. Кроме того, не могу же я это повторить. Знаете, когда человек раздражен… – Он нервно хихикнул. – Я обычно выражаюсь довольно крепко…
– Ничего, – ответила она сухо. – В данный момент я робопсихолог. Я прошу вас повторить то, что вы сказали, насколько вы можете припомнить, слово в слово и, что более важно, тем же тоном.
Блэк растерянно взглянул на своего начальника, но не получил никакой поддержки. Его глаза округлились:
– Но я не могу…
– Вы должны.
– Представьте себе, – сказал Богерт с плохо скрытой усмешкой, – что вы обращаетесь ко мне. Так вам, может быть, будет легче.
Молодой человек, побагровев, повернулся к Богерту и проглотил слюну.
– Я сказал… – Его голос прервался. Он снова начал: – Я сказал… – Он сделал глубокий вдох и торопливо разразился длинной тирадой. Потом, среди напряженного молчания, добавил, чуть не плача: – Вот… более или менее. Я не помню, в том ли порядке шли выражения, и, может быть, я что‑то добавил или забыл, но в общем примерно так.
Только слабый румянец показывал, какое впечатление все это произвело на робопсихолога. Она сказала:
|
|
|
– Я знаю, что означает большинство сказанных вами слов. Остальные, я полагаю, столь же оскорбительны.
– Боюсь, что так, – подтвердил измученный Блэк.
– И всем этим вы сопроводили команду уйти и не показываться, чтобы вы его больше не видели?
– Но не буквально же я…
– Понимаю. Генерал, я не сомневаюсь, что никаких дисциплинарных мер в данном случае принято не будет?
Под ее взглядом генерал, который, казалось, пять секунд назад вовсе не был в этом уверен, сердито кивнул:
– Вы можете идти, мистер Блэк. Спасибо за помощь.
На опрос всех шестидесяти трех роботов Сьюзен Кэлвин понадобилось пять часов. Это были пять часов бесконечного повторения. Один робот сменял другого, точно такого же; следовали вопросы: первый, второй, третий, четвертый – и ответы: первый, второй, третий, четвертый. Выражение лица должно было быть безукоризненно вежливым, тон – безукоризненно нейтральным, атмосфера – безукоризненно теплой. И где‑то был спрятан магнитофон.
Когда все кончилось, Сьюзен Кэлвин была совершенно обессилена.
Богерт ждал. Он вопросительно взглянул на нее, когда она швырнула на пластмассовый стол кассету с пленкой.
Она покачала головой:
– Все шестьдесят три выглядели одинаково. Я не могла различить…
– Но, Сьюзен, нельзя было и ожидать, чтобы вы различили их на слух. Проанализируем записи.
При обычных обстоятельствах математическая интерпретация устных ответов, полученных от роботов, составляет один из самых трудных разделов робоанализа и требует целого штата опытных техников и сложных вычислительных машин. Богерт знал это. Он так и сказал, скрывая крайнее раздражение, после того как прослушал все записи, составил списки разночтений и таблицы быстроты реакции.
– Отклонений нет, Сьюзен. Различия в употреблении слов и в быстроте реакции не выходят за пределы нормы. Тут нужны более тонкие методы. У них, наверное, есть вычислительные машины… Хотя погодите. – Он вдруг нахмурился и начал осторожно грызть ноготь большого пальца. – Мы их машинами воспользоваться не можем. Слишком велика опасность разглашения. Впрочем, если…
Доктор Кэлвин остановила его нетерпеливым движением:
– Не надо, Питер. Это не заурядная лабораторная проблема. Раз модифицированный Нестор не отличается от остальных каким‑то явным, несомненным признаком, то так мы ничего не добьемся. Слишком велик риск ошибки, которая даст ему возможность скрыться. Мало найти незначительное отклонение в таблице. Вот что я вам скажу; если бы мои данные ограничивались только этим, я бы уничтожила все шестьдесят три робота, чтобы никаких сомнений не оставалось. Вы говорили с другими модифицированными Несторами?
– Да, – буркнул Богерт. – У них все в норме. Если и есть что‑то необычное, так это дружелюбие. Они ответили на мои вопросы, явно гордясь своими знаниями, кроме двух новичков, которые еще не успели изучить физику поля. Довольно добродушно посмеялись над тем, что я не знаю некоторых подробностей. – Он пожал плечами. – Я думаю, отчасти поэтому здешние техники их и недолюбливают. Пожалуй, уж слишком эти роботы стремятся произвести впечатление своими познаниями.
– Не можете ли вы попробовать несколько реакций Планара, чтобы посмотреть, не произошло ли каких‑нибудь изменений в их образе мышления с момента выпуска?
– Попробую. – Он погрозил ей пальцем: – Вы начинаете нервничать, Сьюзен. Я не понимаю, зачем вся эта мелодрама? Они же совершенно безобидны.
– Да? – взорвалась Сьюзен Кэлвин. – Вы так думаете? А вы понимаете, что один из них лжет? Один из шестидесяти трех роботов, с которыми я только что беседовала, сознательно мне солгал, несмотря на строжайшее приказание говорить правду. Это свидетельствует о серьезном отклонении от нормы – отклонении глубоком и зловещем.
Питер Богерт стиснул зубы.
– Ничуть. Судите сами. Нестор‑10 получил приказание скрыться. Это приказание было отдано со всей возможной категоричностью человеком, который уполномочен командовать этим роботом. Вы не можете отменить это приказание. Естественно, робот старается его выполнить. Если говорить объективно, меня восхищает его изобретательность. Для робота самая лучшая возможность скрыться – это смешаться с группой таких же роботов.
– Да, вас это восхищает. И даже забавляет. Питер, я вижу, вы совершенно не понимаете, что происходит. Ведь вы роботехник! Эти роботы придают большое значение тому, что они считают превосходством. Вы сами только что это сказали. Подсознательно они чувствуют, что человек ниже их, а Первый закон, защищающий нас от них, нарушен. Они нестабильны. И вот молодой человек приказывает роботу уйти, скрыться, выразив при этом крайнее отвращение, презрение и недовольство им. Конечно, робот должен повиноваться, но подсознательно он обижен. Теперь ему особенно важно доказать свое превосходство – вопреки тем унизительным словам, которые ему были сказаны. Это может стать для него настолько важным, что остатки Первого закона не смогут его сдержать.
– Послушайте, Сьюзен! Ну откуда роботу знать, что означают эти отборные ругательства? Мы же не вводим ему в мозг такую информацию!
– Дело не в том, какую информацию он получает первоначально, – возразила Сьюзен. – Роботы способны обучаться, вы, идиот!
Богерт понял, что теперь она действительно вышла из себя. А она торопливо продолжала:
– Неужели вы не понимаете? Он мог по тону догадаться, что это не комплименты! Или вы думаете, что он никогда раньше этих слов не слыхал и не заметил, при каких обстоятельствах они употребляются?
– Ну хорошо! – крикнул Богерт. – Но может быть, вы любезно объясните мне, каким образом модифицированный робот может причинить вред человеку, как бы он ни был обижен, как бы ни стремился доказать свое превосходство?
– А если я вам объясню, вы никому не расскажете?
– Нет.
Оба перегнулись через стол, гневно глядя друг на друга.
– Если модифицированный робот уронит на человека тяжелый груз, он не нарушит этим Первого закона: он знает, что его сила и быстрота реакции достаточны, чтобы перехватить груз прежде, чем он обрушится на человека. Но как только он отпустит груз, он уже перестанет быть активным действующим лицом. Действовать будет только слепая сила тяжести. И тогда робот может передумать, остаться в бездействии – и позволить грузу упасть. Модифицированный Первый закон это допускает.
– Ну, у вас слишком богатая фантазия.
– Этого иногда требует моя профессия. Питер, нам нельзя ссориться. Надо работать. Вы точно знаете стимул, заставляющий робота скрываться. У вас есть паспорт на него с записями его исходного образа мышления. Вы должны подсчитать, насколько велика вероятность, что наш робот сделает то, о чем я говорила. Заметьте, что речь идет не только об этом конкретном примере, а обо всем классе подобных действий. И вы должны это сделать как можно быстрее.
– А пока…
– А пока нам придется испытывать их на действие Первого закона.
Джералд Блэк вызвался наблюдать за сооружением деревянных перегородок, которые поспешно возводились по всей окружности большого зала на третьем этаже второго радиационного корпуса. Рабочие трудились без лишних разговоров, хотя многие явно недоумевали, зачем понадобилось устанавливать шестьдесят три фотоэлемента.
Один из них присел рядом с Блэком, снял каску и задумчиво вытер лоб веснушчатой рукой.
Блэк кивнул ему:
– Как дела, Валенский?
Валенский пожал плечами и закурил сигару.
– Как по маслу. А что происходит, док? То мы три дня ничего не делали, то начинается спешка? – Он уселся поудобнее и выпустил клуб дыма.
Брови Блэка дрогнули.
– Это все роботехники, которые прилетели с Земли. Помнишь, как нам пришлось повозиться с роботами, которые лезли под гамма‑излучение, пока мы не вдолбили им, чтобы они этого не делали?
– Ага. А разве мы не получили новых роботов?
– Получить‑то получили, но в основном приходится переучивать старых. Ну, и те, кто производит роботов, хотят разработать новую модель, чтобы гамма‑лучи были для нее не так опасны.
– И все‑таки странно, что из‑за этого остановлены все работы над двигателем. Я думал, их никто не имеет права остановить.
– Ну, это решают наверху. Я просто делаю, что мне велят. Может быть, нашлись какие‑то влиятельные люди…
– А‑а… – Электрик улыбнулся и хитро подмигнул. – У кого‑то рука в Вашингтоне?.. Ладно, пока мне аккуратно платят деньги, меня это не трогает. По мне, хоть есть двигатель, хоть нет – все равно. А что они собираются тут делать?
– Почем я знаю? Привезли с собой кучу роботов – шестьдесят с лишним штук – и хотят испытывать их реакции. Вот и все, что мне известно.
– И долго они будут их испытывать?
– Я бы и сам хотел это знать.
– Ну ладно, – саркастически заметил Валенский, – только бы мне платили что положено, а там могут забавляться сколько хотят.
Блэк был доволен. Пусть эта версия распространится. Она безобидна и достаточно близка к истине, чтобы удовлетворить любопытных.
На стуле молча, неподвижно сидел человек. Груз сорвался с крюка и обрушился вниз, а в последний момент отлетел в сторону под внезапным, точно рассчитанным ударом могучего силового луча. В шестидесяти трех кабинах, разделенных деревянными перегородками, бдительные роботы НС‑2 рванулись вперед за какую‑то долю секунды до того, как груз изменил направление полета. Шестьдесят три фотоэлемента, расположенные в полутора метрах впереди от их первоначальных положений, дали сигнал, и шестьдесят три пера, подскочив, изобразили всплеск на графиках. Груз поднимался и падал, поднимался и падал…
Десять раз!
Десять раз роботы бросались вперед и останавливались, увидев, что человеку ничто не грозит.
После первого обеда с представителями «Ю. С. Роботс» генерал‑майор Кэллнер еще ни разу не надевал свою форму целиком. И теперь на нем вместо мундира была только серо‑голубая рубашка с расстегнутым воротом, а на груди болтался черный галстук.
Он с надеждой посмотрел на Богерта. Тот был безукоризненно одет, и лишь блестящие капельки пота на висках выдавали внутреннее напряжение.
– Ну, как? – спросил генерал. – Что вы рассчитывали увидеть?
Богерт ответил:
– Различие, которое, боюсь, может оказаться для нас слишком незначительным. У шестидесяти двух из этих роботов вид человека, который находится в явной опасности, вызывает так называемую вынужденную реакцию. Видите ли, даже когда роботы уже знали, что человеку ничто не грозит – а после третьего или четвертого раза они должны были в этом убедиться, – они не могли поступить иначе. Этого требует Первый закон.
– Ну?
– Но шестьдесят третий робот, модифицированный Нестор, не испытывает такого непреодолимого побуждения. Он свободен в своих действиях. Если бы он захотел, он мог бы остаться на месте. К несчастью, – голос Богерта выражал легкое сожаление, – он не захотел.
– Как вы думаете, почему?
Богерт пожал плечами.
– Я думаю, это нам расскажет доктор Кэлвин, когда она придет сюда. И возможно, сделает из этого самые пессимистические выводы. С ней иногда бывает нелегко иметь дело.
– Но ведь она вполне компетентна? – внезапно нахмурившись, тревожно спросил генерал.
– Да, вполне. – Богерт слегка улыбнулся. – Она понимает роботов, как родных братьев. Вероятно, потому, что так ненавидит людей. Дело в том, что она, хоть и психолог, крайне нервная особа. Шизофренического склада. Не принимайте ее слишком всерьез.
Он разложил перед собой длинные ленты графиков с замысловатыми кривыми.
– Видите, генерал, у каждого робота время, проходящее между падением груза и окончанием полутораметрового пробега, уменьшается с повторением эксперимента. Здесь есть определенное математическое соотношение, и нарушение его свидетельствовало бы о заметном отклонении позитронного мозга от нормы. К сожалению, все они кажутся нормальными.
– Но если наш Нестор‑10 не отвечает вынужденной реакцией, то почему его кривая не отличается от других? Я этого не могу понять.
– Очень просто. Реакции робота, к несчастью, не вполне аналогичны человеческим. У человека сознательное действие гораздо медленнее, чем автоматическая реакция. У роботов же дело обстоит иначе. После того как выбор сделан, сознательное действие совершается почти так же быстро, как и вынужденное. Правда, я ожидал, что в первый раз Нестор‑10 будет захвачен врасплох и потеряет больше времени, прежде чем среагирует.
– И этого не случилось?
– Боюсь, что нет.
– Значит, мы ничего не добились. – Генерал с досадой откинулся на спинку кресла. – А вы здесь уже пять дней…
В этот момент, хлопнув дверью, вошла Сьюзен Кэлвин.
– Уберите графики, Питер, – воскликнула она. – Вы знаете, что нам они ничего не дают.
Кэллнер поднялся, здороваясь с ней. Она что‑то нетерпеливо буркнула в ответ и продолжала:
– Нам надо, не откладывая, предпринять что‑нибудь еще. Мне не нравится то, что там происходит.
Богерт и генерал обменялись печальным взглядом.
– Что‑нибудь случилось?
– Пока ничего особенного. Но мне не нравится, что Нестор‑10 продолжает от нас ускользать. Это плохо. Это должно удовлетворять его непомерно возросшее чувство собственного превосходства. Я боюсь, что мотив его действий – уже не просто исполнение приказа. Мне кажется, дело теперь скорее в чисто невротическом стремлении перехитрить людей. Это ненормальное, опасное положение. Питер, вы сделали то, что я просила? Рассчитали нестабильность модифицированного НС‑2 для тех случаев, о которых я говорила?
– Считаю понемногу, – ответил математик равнодушно.
Она сердито взглянула на него, потом повернулась к Кэллнеру:
– Нестор‑10 прекрасно понимает, что мы делаем. У него не было причин попадаться на эту удочку, особенно после первого раза, когда он убедился, что реальная опасность человеку не грозит. Остальные просто не могли вести себя иначе, а он сознательно имитировал нужную реакцию.
– И что же нам следует предпринять теперь, доктор Кэлвин?
– Не позволим ему притвориться в следующий раз. Мы повторим эксперимент, но с одним изменением. Человек будет отделен от роботов проводами, через которые будет пропущен ток высокого напряжения – достаточно высокого, чтобы уничтожить Нестора. Проводов надо натянуть столько, чтобы робот не мог через них перепрыгнуть. И роботам будет заранее хорошо известно, что прикосновение к проводам означает для них гибель.
Дата добавления: 2018-09-23; просмотров: 171; Мы поможем в написании вашей работы! |
Мы поможем в написании ваших работ!