Эфросинъя Дурандо СТРОГО ФОРМАЛЬНО 29 страница
– Да, для тех, кто знает роботехнику. Однако судье этот довод может показаться не слишком убедительным. Обвинение пытается создать впечатление, будто И‑Зет‑27 – не вполне обычный робот. Это первый робот данного типа, переданный потребителю. Иными словами, это экспериментальная модель, которой необходимо пройти рабочие испытания, а университет оказался наиболее удобным местом для проведения таких испытаний. Настойчивые усилия доктора Лэннинга и низкая арендная плата делают такое толкование очень правдоподобным. После этого обвинение станет утверждать, что испытания показали непригодность модели. Теперь вы понимаете подоплеку их маневров?
– Но ведь И‑Зет‑27 – прекрасная, хорошо отлаженная модель, – возразил Робертсон, – Не забывайте, что в своей серии он был двадцать седьмым!
– А это уж и вовсе довод не в нашу пользу, – мрачно ответил защитник, – Почему не пошли первые двадцать шесть? Что‑ то, видимо, с ними бьио не так. Почему же тогда и в двадцать седьмом не может быть дефектов?
– Никаких дефектов в первых двадцати шести моделях не было – просто их позитронный мозг оказался слишком примитивным для данной работы. Мы только приступили к созданию позитронного мозга нужного типа и продвигались к цели почти вслепую, методом проб и ошибок. Но все эти роботы подчинялись Трем Законам. Нарушить Три Закона не может ни один робот, как бы несовершенен он ни был.
|
|
|
– Доктор Лэннинг уже объяснил мне все это, мистер Робертсон, и я вполне готов положиться на его слово. Но судья может придерживаться другого мнения. Решение по нашему делу должен вынести честный и неглупый человек, но он не сведущ в робопсихологии, и его нетрудно сбить с толку. Вот вам пример. Если вы, или доктор Лэннинг, или доктор Кэлвин, выступая в качестве свидетелей, заявите, что позитронный мозг создают методом проб и ошибок, как вы только что здесь сказали, то обвинитель сделает из вас котлету и процесс будет проигран безвозвратно. Так что остерегайтесь необдуманных высказываний.
– Если бы только Изи заговорил, – проворчал Робертсон.
– Что толку! – пожал плечами защитник. – Это ничего бы не дало. Робот не может быть свидетелем.
– Мы хотя бы знали факты. Узнали бы наконец, почему он совершил этот поступок.
– А это нам и без того известно.
Голос Сьюзен Кэлвин потерял ледяную сухость, а на ее щеках заалели багровые пятна.
– Ему приказали! Я уже объяснила это адвокату, могу и вам объяснить.
– Кто приказал? – искренне изумился Робертсон. (Никто ему ничего никогда не рассказывает, обиженно подумал он. Черт возьми, эти ученые ведут себя так, словно они и есть настоящие владельцы «Ю. С. Роботс»!)
|
|
|
– Истец, – ответила доктор Кэлвин.
– Зачем ему это понадобилось?
– Еще не знаю. Может, просто для того, чтобы предъявить нам иск и отсудить кругленькую сумму, – В ее глазах при этом появился холодный блеск.
– Что же мешает Изи сказать об этом?
– Неужели и это не ясно? Ему приказали молчать – вот и все.
– С какой стати это ясно? – раздраженно допытывался Робертсон.
– Во всяком случае, это ясно мне. Хотя Изи отказывается отвечать на прямые вопросы, но на косвенные вопросы он отвечает. Измеряя степень нерешительности, возрастающую по мере приближения к сути дела, а также площадь затронутого участка мозга и величину отрицательных потенциалов, можно с математической точностью доказать, что его поведение вызвано приказом молчать, причем сила приказа соответствует Первому Закону. Говоря попросту, роботу объяснили, что если он проговорится, то причинит вред человеку. Надо думать, этот человек и есть сам истец, этот мерзкий профессор Нинхаймер, которого робот все же воспринимает как человека.
– Хорошо, а почему бы вам не объяснить ему, что его молчание повредит «Ю. С. Роботс»? – спросил Робертсон.
– «Ю. С. Роботс» не является человеком, а на корпорации в отличие от юридических законов не распространяется Первый Закон Роботехники. Кроме того, попытка снять запрет может повредить мозг робота. Снять запрет с минимальным риском может только тот, кто приказал Изи молчать, поскольку все усилия робота сейчас сосредоточены на том, чтобы уберечь этого человека от опасности. Любой другой путь… – Сьюзен Кэлвин покачала головой, и лицо ее снова сделалось бесстрастным. – Я не допущу, чтобы пострадал робот, – закончила она.
|
|
|
– По‑моему, вполне достаточно будет доказать, что робот не в состоянии совершить поступок, который ему приписывают, а это нам нетрудно! – У Лэннинга был такой вид, словно он поставил проблему с головы на ноги.
– Вот именно, вам! – раздраженно отозвался адвокат, – Как назло, все эксперты, способные засвидетельствовать, что творится в мозгах у робота, состоят на службе у «Ю. С. Роботс». Боюсь, судья может не поверить в непредубежденность ваших показаний.
– Но разве он может принять решение вопреки свидетельским показаниям экспертов?
– Разумеется, если вы его не убедите. Это его право как судьи. Неужели вы полагаете, что технический жаргон ваших инженеров прозвучит для судьи более убедительно, чем предположение, будто такой человек, как профессор Нинхаймер, способен – пусть даже ради очень крупной суммы – намеренно погубить свою научную репутацию? Судья тоже человек. Если ему приходится выбирать, кто из двоих – робот или человек – совершил невозможный для них поступок, то, скорее всего, он вынесет решение в пользу человека.
|
|
|
– Но человек способен на невозможный поступок, – возразил Лэннинг, – потому что мы не знаем всех тонкостей человеческой психологии и не в состоянии определить, что возможно для данного человека, а что – нет. Зато мы точно знаем, что невозможно для робота.
– Что ж, посмотрим, удастся ли нам убедить в этом судью, – устало ответил защитник.
– Если все обстоит так, как вы говорите, – проворчал Робертсон, – я не понимаю, как вы вообще надеетесь выиграть процесс.
– Поживем – увидим. Всегда полезно отдавать себе отчет в предстоящих трудностях, но не будем падать духом. Я тоже продумал партию на несколько ходов вперед. – Он учтиво наклонил голову в сторону Сьюзен Кэлвин и добавил: – С любезной помощью этой дамы.
– Это еще что? – удивленно посмотрел на них Лэннинг.
Но как раз в этот момент судебный пристав просунул голову в дверь и, отдуваясь, возвестил, что заседание начинается.
Они заняли свои места и принялись разглядывать человека, который заварил всю эту кашу.
У Саймона Нинхаймера была пышная рыжеватая шевелюра, нос с горбинкой, острый подбородок и манера предварять ключевое слово нерешительной паузой, создававшей впечатление мучительных поисков недостижимой точности выражений. Когда он произносил: «Солнце восходит… мм… на востоке», не оставалось сомнений, что он с должным вниманием рассмотрел и все остальные варианты.
– Вы возражали против аренды робота И‑Зет‑27? – спросил обвинитель.
– Да, сэр.
– Из каких соображений?
– У меня создалось впечатление, что мы не вполне понимаем… ммм… мотивы, движущие «Ю. С. Роботс». Меня смущала та настойчивость, с которой они пытались навязать нам своего робота.
– Вы полагали, что он не сможет справиться с порученной ему работой?
– Я убедился в этом на деле.
– Не могли бы вы рассказать, как это произошло?
Свою монографию «Социальные конфликты, связанные с космическими полетами, и их разрешение» Саймон Нинхаймер писал восемь лет. Его страсть к точности выражений не ограничивалась устной речью: поиски строгих и отточенных формулировок в столь неточной науке, как социология, отнимали все его силы.
Даже появление корректурных листов не создало у Нинхай‑ мера ощущения, что его труд близок к завершению. Скорее напротив. Глядя на длинные полосы гранок, он испытывал непреодолимое желание рассыпать набор и переписать всю книгу заново.
Через три дня после получения корректуры Джим Бейкер, преподаватель и не сегодня завтра доцент кафедры, вошел к Нинхаймеру и застал его в рассеянном созерцании пачки гранок. Типография прислала их в трех экземплярах: над первым должен был работать сам Нинхаймер, над вторым – независимо от него Бейкер, а в третий после обсуждения должны были быть внесены окончательные поправки. Они выработали эту практику за три года совместной работы, и она себя вполне оправдывала.
В руках у Бейкера был его экземпляр корректуры.
– Я кончил проверять первую главу, – весело произнес он. – В ней есть такие типографские перлы!
– В первой главе их всегда полно, – безучастно отозвался Нинхаймер.
– Займемся сверкой прямо сейчас?
Нинхаймер поднял голову и мрачно уставился на Бейкера.
– Я не притрагивался к корректуре, Джим. Я решил не утруждать себя.
– Не утруждать? – Бейкер вконец растерялся.
Нинхаймер поджал губы.
– Я решил… мм… воспользоваться машиной. Коль на то пошло, ее предложили нам в качестве… мм… корректора. Меня включили в график.
– Машину? Вы хотите сказать – Изи?
– Я слышал, что ее называют этим дурацким именем.
– А я‑то думал, доктор Нинхаймер, что вы предпочли бы обойтись без ее помощи!
– По‑видимому, я единственный, кто ею не пользуется. Почему бы и мне не получить… мм… свою долю благ.
– Выходит, зря я корпел над первой главой, – расстроенно произнес молодой человек.
– Не зря. Мы используем эту работу для проверки.
– Разумеется, если вы считаете это нужным, только…
– Что?
– Сомневаюсь, что после Изи работу нужно проверять. Говорят, он никогда не ошибается.
– Возможно, и так, – сухо ответил Нинхаймер.
Четыре дня спустя Бейкер вновь принес первую главу. На сей раз это был экземпляр Нинхаймера, только что доставленный из специальной пристройки, где работал Изи.
Бейкер торжествовал:
– Доктор Нинхаймер, он не только обнаружил все замеченные мною опечатки, но нашел еще с десяток, которые я пропустил! И на все у него ушло только двенадцать минут!
Нинхаймер просмотрел пачку листов с аккуратными четкими пометками и исправлениями на полях.
– Полагаю, что мы с вами лучше бы справились с этой задачей. В первую главу следует включить ссылку на работу Сузуки о влиянии слабых гравитационных полей на нервную систему.
– Вы имеете в виду его статью в «Социологическом обзоре»?
– Совершенно верно.
– Нельзя требовать от Изи невозможного. Он не в состоянии следить вместо нас с вами за научной литературой.
– Это я понимаю. Дело в том, что я подготовил нужную вставку. Я собираюсь зайти к машине и удостовериться, что она… мм… умеет делать вставки.
– Конечно умеет.
– Предпочитаю убедиться в этом лично.
Нинхаймер попросил разрешения поговорить с роботом, но смог получить лишь пятнадцать минут, и то поздно вечером.
Впрочем, пятнадцати минут вполне хватило. Робот И‑Зет‑ 27 сразу понял, как делают вставки.
Нинхаймер впервые оказался на таком близком расстоянии от робота, и ему стало не по себе. Машинально он спросил у робота, словно тот был человеком:
– Вам нравится ваша работа?
– Чрезвычайно нравится, профессор Нинхаймер, – серьезно ответил Изи.
Фотоэлементы, заменявшие ему глаза, отсвечивали, как обычно, темно‑красными бликами.
– Вы меня знаете?
– Вы передали мне дополнительный материал для включения в корректуру, из чего следует, что вы автор книги. Фамилия автора напечатана вверху каждого корректурного листа.
– Понимаю. Следовательно, вы способны… мм… делать логические заключения. Скажите, – не удержался он от вопроса, – а что вы думаете о моей книге?
– Я нахожу, что с ней очень приятно работать, – ответил Изи.
– Приятно? Что за странное выражение со стороны… мм… бесчувственного автомата. Мне говорили, что вы не способны испытывать какие‑либо эмоции.
– Слова вашей книги хорошо сочетаются со схемой пози‑ тронных связей в моем мозгу, – объяснил Изи, – Они почти никогда не вызывают отрицательных потенциалов. Заложенная в меня программа переводит это механическое состояние словом «приятно». Эмоции тут ни при чем.
– Понимаю. А почему книга кажется вам приятной?
– Она посвящена людям, профессор, а не математическим символам или неодушевленным предметам. В своей книге вы пытаетесь понять людей и способствовать их счастью.
– А это совпадает с целью, ради которой вы созданы, поэтому моя книга хорошо сочетается со схемой связей у вас в мозгу?
– Именно так, профессор.
Четверть часа истекли. Нинхаймер вышел и направился в университетскую библиотеку. Он попал в нее перед самым закрытием, но успел все же разыскать учебник по робопсихологии и унес его домой.
Если не считать отдельных вставок, корректура поступала теперь из типографии к Изи, а от него снова шла в типографию. Первое время Нинхаймер изредка просматривал гранки, а затем и вовсе перестал в них заглядывать.
– Мне начинает казаться, что я лишний, – смущенно признался Бейкер.
– Пусть лучше вам начнет казаться, что у вас высвободилось время для новой работы, – ответил Нинхаймер, продолжая делать пометки в только что полученном номере реферативного журнала «Социальные науки».
– Просто я никак не привыкну к новому порядку. Я продолжаю беспокоиться из‑за корректуры. Это глупо, я знаю.
– Крайне глупо.
– Вчера я просмотрел несколько листов, прежде чем Изи отослал их…
– Что?! – Нинхаймер, нахмурившись, посмотрел на Бейкера. Журнал, который он выпустил из рук, закрылся. – Вы вмешались в работу машины?
– Всего лишь на минутку. Все было в полном порядке. Кстати, Изи заменил одно слово. Вы охарактеризовали какое‑ то действие как преступное, а Изи заменил это слово на «безответственное». Он решил, что второе определение лучше соответствует контексту.
– А как по‑вашему? – задумчиво спросил Нинхаймер.
– Знаете, я согласен с Изи. Я оставил его поправку.
Нинхаймер повернулся вместе с вращающимся креслом к своему молодому помощнику.
– Послушайте, мне бы не хотелось, чтобы это повторялось. Если уж приходится пользоваться услугами машины, надо пользоваться ими… мм… в полной мере. Что же я выигрываю, обращаясь к машине, если при этом я лишаюсь… мм… вашей помощи, поскольку вы растрачиваете время на контроль машины, весь смысл которой в том, что она не нуждается в контроле? Вы поняли?
– Хорошо, доктор Нинхаймер, – смиренно произнес Бейкер.
Авторские экземпляры «Социальных конфликтов» были получены на кафедре Нинхаймера 8 мая. Он мельком перелистал страницы, пробежав глазами несколько абзацев, и убрал книги.
Позднее он объяснил, что совсем забыл про них. Восемь лет трудился он над своей монографией, но в течение прошлых месяцев все заботы о выпуске книги перешли к Изи, а его полностью поглотили новые интересы. Он не удосужился подарить традиционный экземпляр университетской библиотеке. Даже Бейкер, который после недавнего выговора с головой ушел в работу и старался не попадаться заведующему кафедрой на глаза, даже он не получил книги в подарок.
Этот период забвения окончился 16 июня. В кабинете Нин‑ хаймера раздался телефонный звонок, и профессор изумленно уставился на экран.
– Шпейдель? Вы приехали?
– Нет, сэр! Я звоню из Кливленда! – Голос Шпейделя прерывался от плохо сдерживаемого гнева.
– Что же вы хотите мне сказать?
– А то, что я только сейчас кончил просматривать вашу книгу! Нинхаймер, что с вами? Уж не сошли ли вы с ума?
Нинхаймер весь напрягся.
– Вы нашли… мм… ошибку? – с беспокойством спросил он.
– Ошибку?! Да вы только взгляните на пятьсот двадцать шестую страницу. Как вы посмели настолько извратить мою работу? Где в цитируемой вами статье я утверждаю, будто преступная личность – это фикция, а подлинными преступниками являются полиция и суд? Вот послушайте…
– Стойте! Стойте! – завопил Нинхаймер, лихорадочно листая страницы, – Позвольте мне взглянуть! О боже!
– И что вы скажете?
– Шпейдель, я ума не приложу, как это могло произойти. Я никогда не писал ничего подобного.
– Это напечатано черным по белому! И это еще далеко не самое худшее. Загляните на страницу шестьсот девяностую и попробуйте вообразить, что из вас сделает Ипатьев, когда узнает, как вы обошлись с его выводами! Послушайте, Нинхаймер, ваша книга буквально напичкана подобными подтасовками. Не знаю, о чем вы думали… но, по‑моему, у вас нет иного выхода, как изъять книгу из продажи. И вам долго придется приносить извинения на следующей конференции социологов!
– Шпейдель, выслушайте меня…
Но Шпейдель с такой яростью дал отбой, что по экрану пошли цветные пятна.
Вот тогда‑то Нинхаймер уселся за книгу' и принялся отмечать абзацы красными чернилами.
При новой встрече с роботом профессор на редкость хорошо сохранял самообладание, только губы у него совсем побелели. Он протянул книгу Изи.
– Будьте добры прочитать абзацы, отмеченные на страницах пятьсот шестьдесят два, шестьсот тридцать один, шестьсот шестьдесят четыре и шестьсот девяносто.
Роботу понадобилось четыре взгляда.
– Готово, профессор Нинхаймер.
– Эти абзацы отличаются от первоначального текста.
– Да, сэр. Отличаются.
– Это вы их переделали?
– Да, сэр.
– Почему?
– Эти абзацы, в том виде, как вы их написали, сэр, содержат весьма неодобрительные отзывы о некоторых группах людей. Я счел целесообразным изменить некоторые формулировки, чтобы эти люди не пострадали.
– Да как вы осмелились?
– Профессор, Первый Закон не позволяет мне бездействовать, если вследствие этого могут пострадать люди. А принимая во внимание вашу репутацию ученого и ту известность, которую ваша книга получит среди социологов, нетрудно понять, что ваши неодобрительные отзывы причинят этим людям несомненный вред.
– А вы понимаете, какой вред вы причинили мне?
– Из двух зол необходимо выбирать меньшее.
Профессор Нинхаймер ушел вне себя от ярости. Он твердо решил призвать «Ю. С. Роботс» к ответу.
Легкое смятение за столом защиты постепенно возросло, когда обвинение поспешило закрепить достигнутый успех.
– Итак, робот И‑Зет‑27 сообщил вам, что его действия были вызваны Первым Законом Роботехники?
– Совершенно верно, сэр.
– Иными словами, у робота не было выбора?
– Да, сэр.
– Отсюда вытекает, что «Ю. С. Роботс» создала робота, который неизбежно должен переделывать книги в соответствии со своими понятиями о том, что хорошо и что плохо, и этого робота они выдали за простого корректора. Вы согласны?
Защитник немедленно заявил протест, указав, что обвинитель спрашивает мнение свидетеля по вопросу, в котором тот некомпетентен. Судья принял протест и указал обвинителю на недопустимость таких вопросов, но можно было не сомневаться, что стрела попала в цель, – по крайней мере, у защитника не осталось на этот счет никаких иллюзий.
Защитник в свою очередь, перед тем как начать допрос свидетеля, попросил судью, ссылаясь на процессуальные формальности, объявить пятиминутный перерыв, что и было сделано.
Защитник наклонился к Сьюзен Кэлвин.
– Скажите, доктор Кэлвин, существует ли хотя бы малая вероятность, что профессор Нинхаймер говорит правду и поведение Изи было обусловлено действием Первого Закона?
– Нет! – сухо ответила Сьюзен Кэлвин. – Это совершенно исключено. Последняя часть показаний Нинхаймера – намеренное лжесвидетельство. Изи не способен выносить суждения об абстрактных идеях, содержащихся в научной монографии по социологии. Он не в состоянии сделать вывод, что та или иная фраза причинит вред определенным группам людей. Попросту говоря, его мозг не годится для этого.
Дата добавления: 2018-09-22; просмотров: 226; Мы поможем в написании вашей работы! |
Мы поможем в написании ваших работ!