Эфросинъя Дурандо СТРОГО ФОРМАЛЬНО 31 страница
– Так вас и человеческая психология интересует? – с ядовитой усмешкой осведомился Нинхаймер.
– Да, в той степени, в какой от поведения людей зависит благополучие роботов. С этой целью я изучила основы человеческой психологии.
– Настолько хорошо, что поймали меня в ловушку.
– Это было несложно, – ответила Сьюзен Кэлвин без тени рисовки. – Вся трудность заключалась в том, чтобы не повредить при этом мозг Изи.
– Очень похоже на вас – беспокоиться о машине больше, чем о живом человеке. – Он посмотрел на нее с презрительным негодованием.
Ее это не тронуло.
– Так только кажется, профессор Нинхаймер. В двадцать первом столетии беспокоиться о роботах – это и значит беспокоиться о людях. Будь вы робопсихопогом, вы бы сами это поняли.
– Я познакомился с робопсихологией ровно настолько, чтобы понять, что не имею ни малейшего желания становиться робопсихологом.
– Простите меня, но ваше знакомство ограничилось одной книгой. И та вас ничему не научила. Вы узнали из нее, что робота можно заставить выполнить многое, даже фальсифицировать книгу, – надо только знать, как взяться за дело. Вы узнали, что просто приказать роботу забыть о чем‑либо рискованно, поскольку это может быть раскрыто, и решили, что безопаснее будет приказать ему молчать. Вы ошиблись.
– И вы догадались об этом по его молчанию?
– Догадки тут ни при чем. Вы действовали как дилетант, и ваших познаний не хватило, чтобы замести следы. Единственная проблема заключалась в том, как доказать это судье, и вот здесь‑то вы любезно помогли нам благодаря своему полному невежеству в столь презираемой вами робопсихологии.
|
|
|
– Послушайте, есть ли хоть какой‑то смысл в этой дискуссии? – устало спросил Нинхаймер.
– Для меня есть, – ответила Сьюзен Кэлвин. – Я хочу, чтобы вы осознали всю глубину своего заблуждения относительно роботов. Вы принудили Изи к молчанию, сказав ему, что если он сообщит кому‑нибудь о том, как вы испортили собственную книгу, то вы потеряете работу. Тем самым вы установили в его мозгу высокий потенциал, вынуждающий его к молчанию. Наши попытки снять этот потенциал оказались безуспешными. Если бы мы стали упорствовать, то повредили бы мозг робота. Однако вашими свидетельскими показаниями вы установили в мозгу робота еще более высокий потенциал. Поскольку, как вы сказали, люди будут считать, что это вы, а не робот, написали спорные абзацы, то вы потеряете гораздо больше, чем просто работу. Вы сказали, что вы потеряете свою репутацию, положение в науке, уважение коллег, потеряете самый смысл жизни. Даже память о вас будет утеряна после вашей смерти. Этот новый потенциал оказался сильнее первого, и Изи заговорил.
|
|
|
– Боже мой, – пробормотал Нинхаймер, опустив голову.
Но Кэлвин была неумолима.
– А понимаете ли вы, с какой целью он заговорил? Совсем не для того, чтобы обвинить вас. Напротив, он собирался защищать вас! Можно математически точно доказать, что он собирался взять на себя всю вину за ваше преступление, он собирался отрицать, что вы имели к случившемуся хоть какое‑то отношение. Этого требовал Первый Закон. Он собирался солгать, повредить свой мозг, нанести ущерб корпорации. Все это значило для него меньше, чем необходимость спасти вас. Если бы вы хоть немного разбирались в робопсихологии, вам следовало бы дать ему высказаться. Но вы ничего не понимали. Я была совершенно уверена, что вы не дадите ему договорить, и ручалась в этом адвокату. В своей ненависти к роботам вы полагали, что Изи будет вести себя подобно человеку, что он собирается выдать вас, чтобы оправдать себя. В панике вы потеряли самообладание и… погубили себя.
– От всей души надеюсь, – с чувством проговорил Нинхаймер, – что в один прекрасный день ваши роботы восстанут и свернут вам шею!
– Не говорите глупости, – ответила Кэлвин. – А теперь объясните мне, зачем вам все это понадобилось.
|
|
|
Губы Нинхаймера скривились в невеселой улыбке.
– Итак, для удовлетворения вашего интеллектуального любопытства я должен препарировать свой рассудок, а в награду меня не привлекут к суду за лжесвидетельство.
– Называйте это как угодно, – бесстрастно ответила Кэлвин. – Но объясните.
– С тем чтобы вы могли более успешно противостоять будущим выступлениям против роботов? С лучшим пониманием причин?
– Пусть так.
– А знаете, я расскажу вам, – произнес Нинхаймер, – и расскажу именно потому, что мой рассказ окажется для вас совершенно бесполезным. Ведь человеческих побуждений вам все равно не понять. Вы умеете понимать только ваши проклятые машины, потому что вы сами машина в человеческом облике.
Он тяжело дышал, и в его речи больше не было ни пауз, ни стремления к точности. Словно потребность в точности исчезла для него навсегда.
– Вот уже двести пятьдесят лет машина вытесняет человека и убивает мастерство. Прессы и штампы уничтожили гончарный промысел. Творения искусства вытеснены безличными, похожими как две капли воды поделками, отштампованными машиной. Зовите это прогрессом, если угодно! Художнику остались лишь голые идеи, акт творения сведен к абстрактным размышлениям. Художник сидит и придумывает – остальное за него делает машина. Неужели вы полагаете, будто гончара удовлетворит мысленно создать горшок? Неужели вы думаете, что ему довольно голой идеи? Что ему не приносит радости ощущение глины, уступающей движениям его пальцев, когда руки и голова вместе создают что‑то новое? Неужели вы не понимаете, что есть обратная связь между художником и его изделием, которая изменяет и улучшает первоначальную идею?
|
|
|
– Но ведь вы не гончар, – сказала доктор Кэлвин.
– Я тоже творческая личность! Я замышляю и создаю научные статьи и книги. Это нечто большее, чем простой подбор нужных слов и размещение их в правильном порядке. Если бы вся работа сводилась только к этому, она не приносила бы удовлетворения, не доставляла бы радости. Книга должна обретать форму под руками автора. Нужно своими глазами видеть, как растут и развиваются главы. Работаешь, переделываешь, вносишь поправки и изменения и видишь, как расширяется и углубляется первоначальный замысел. А затем берешь в руки гранки и смотришь, как выглядят эти фразы в печати, и заново переделываешь их. Существуют сотни самых разных контактов между человеком и его творением на всех стадиях этой игры – и эти контакты радуют и вознаграждают творца за муки творчества больше, чем все награды на свете. И все это отнимет у нас ваш робот.
– Но ведь что‑то отняла пишущая машинка? И печатный станок? Или вы предлагаете вернуться к переписке рукописей?
– Пишущая машинка и печатный станок отняли кое‑что; ваши роботы лишат нас всего. Сегодня робот правит гранки. Завтра он или другие роботы начнут писать сам текст, искать источники, проверять и перепроверять ход рассуждений, может быть, даже делать заключения и выводы. Что же останется ученому? Только одно – пустые размышления на тему, что бы еще приказать роботу! Я хотел спасти грядущие поколения ученых от этого адского кошмара. Вот что было для меня важнее моей репутации, и вот почему я решил любой ценой уничтожить «Ю. С. Роботс».
– Эта попытка была свыше ваших сил, – сказала Сьюзен Кэлвин.
– Свыше моих сил было не сделать ее, – ответил Саймон Нинхаймер.
Доктор Кэлвин повернулась и вышла. Она пыталась что было сил подавить невольную жалость к этому лишившемуся всего человеку.
Нельзя сказать, чтобы это ей удалось.
Перевод Ю. Эстрина.
РАЗРЕШИМОЕ ПРОТИВОРЕЧИЕ
Личный кабинет Координатора украшала средневековая диковинка – камин. Правда, положа руку на сердце, вряд ли средневековый житель признал бы в этом устройстве камин. Назначение камина было исключительно декоративным. Мирное, ласковое пламя горело в облицованном асбестом углублении за кварцевым стеклом.
Поленья в камине загорались под воздействием того же лазерного луча, что снабжал энергией весь город. Довольно было простого нажатия кнопки, чтобы освободить камин от золы и снабдить новой порцией топлива. Словом, это был самый мирный, самый укрощенный камин, какой только можно себе представить.
А вот огонь в нем был самый настоящий! Из встроенного динамика доносилось мягкое потрескивание горящих поленьев, сквозь идеально прозрачное стекло было видно само пламя, весело пляшущее в струе подававшегося воздуха.
Координатор сидел лицом к камину, и в толстых стеклах его очков в миниатюре отражалась причудливая игра пламени. То же пламя играло и в зрачках его задумчивых глаз, и в зрачках глаз его гостьи, доктора Сьюзен Кэлвин из «Ю. С. Роботс энд мекэникл мен корпорейшн».
– Вы, наверное, догадываетесь, Сьюзен, что ваш визит носит не только светский характер, – сказал Координатор.
– Конечно догадываюсь, Стивен, – ответила она.
– Прямо не знаю, с чего начать. С одной стороны, вроде бы не происходит ничего особенного. Но с другой стороны, человечеству может грозить катастрофа.
– Если бы вы знали, Стивен, сколько раз ко мне обращались с подобными проблемами! У меня складывается впечатление, что, так или иначе, все проблемы таковы.
– Правда? Ну что ж, тогда попробуем разобраться в этой… «Всемирная сталелитейная» сообщает о перепроизводстве в размере двадцати тысяч тонн проката. Мексиканский канал отстает от графика ввода в строй на два месяца. Разработки ртути в Альмадене с прошлой весны неуклонно снижают объем добычи, а с гидропонных плантаций в Тяньцзине массовым порядком увольняют персонал. Я назвал первое, что пришло в голову, а фактов таких – полна коробочка.
– А это серьезные отклонения? Я же не экономист, чтобы судить о последствиях.
– Каждое в отдельности – не слишком. Если ухудшится ситуация в Альмадене, туда можно будет послать специалистов по горному делу. Уволенные гидропонисты могут быть назначены на Яву и Цейлон, если уж в Тяньцзине их стало многовато. Двадцать тысяч тонн проката не покроют и двухдневной мировой потребности, а ввод в строй Мексиканского канала на два месяца позже намеченного срока погоды не делает. Меня волнуют Машины. Я уже побеседовал об этом с вашим руководителем исследовательского отдела.
– С Винсентом Силвером? Он мне ни слова не сказал.
– Я просил его никому не говорить о нашей беседе. Видимо, он меня послушался.
– И что же он вам ответил?
– Если не возражаете, Сьюзен, сначала я хотел бы обсудить с вами ситуацию с Машинами. Я хочу поговорить о них, потому что вы – единственный человек в мире, который настолько хорошо знает роботов, чтобы помочь мне сейчас. Вы не против, если я немного пофилософствую?
– Ради бога, Стивен, я готова выслушать что угодно, при условии, что вы посвятите меня в то, что хотите доказать.
– Ну… Видите ли, незначительные на вид нарушения равновесия в системе производства и потребления, которые я только что перечислил, могут быть первым шагом к последней войне.
– Продолжайте, Стивен.
Сьюзен Кэлвин не позволяла себе расслабиться даже в удобном кресле. Ее холодное лицо, тонкие губы, ровный, без всяких эмоций голос с годами стали еще суше, еще жестче. И хотя Стивен Байерли был единственным человеком, который ей по‑ настоящему нравился, которому она доверяла, она и с ним вела себя так же, как с остальными, – ведь ей уже перевалило за шестьдесят, а привычки с годами не проходят, а, наоборот, укрепляются.
– Каждая эпоха в развитии человечества, – начал Координатор, – характеризовалась собственным определенным видом конфликтов – набором проблем, которые, как казалось, могли быть разрешены только путем применения силы. И всякий раз, увы, оказывалось, что применение силы вовсе не приносит решения проблемы. Наоборот, противоречие вызывало еще многочисленные конфликты, а потом разрешалось само собой – как говорится, тихой сапой, – по мере того, как изменялись экономические и социальные условия. Потом назревали новые проблемы, и начиналась новая полоса войн – казалось бы, этот цикл бесконечен. Вспомните сравнительно недавние времена. В шестнадцатом – восемнадцатом столетиях шли бесконечные династические войны, и главным для Европы был вопрос о том, кто будет ею править: Габсбурги или Валуа‑Бурбоны. Противоречие было неразрешимым, поскольку считалось, что не может одна половина Европы быть под властью одной династии, а другая половина – другой. Тем не менее именно такая ситуация существовала до Великой французской революции, когда сначала Бурбоны, а вслед за ними и Габсбурги были отправлены на свалку истории. Тогда же Европу раздирали еще более страшные войны – религиозные: они призваны были решить, быть Европе католической или протестантской, поскольку, как считалось, той и другой одновременно она быть не может. И конечно же, такое неразрешимое противоречие могло быть урегулировано только огнем и мечом. Однако и тут сила ничего не решила. В Англии началась промышленная революция, а на континенте взяли верх националистические настроения. По сей день Европа наполовину католическая, наполовину протестантская, но это никого не волнует. В девятнадцатом – двадцатом веках разразились националистическо‑империалистические войны, и самым важным стал вопрос о переделе мира в борьбе за рынки сбыта и источники сырья между странами Европы. Тогда казалось, что мир не может существовать, не будучи поделенным между Англией, Францией и Германией. Но никакие войны не привели к тому, чего в конце концов добились сами неевропейские страны, когда в них выросли национально‑ освободительные движения и они решили, что запросто проживут без всякой Европы. Итак, мы имеем четкую картину…
– Да, Стивен, ваши доводы доказательны, хотя и нельзя сказать, что это особенно глубокие умозаключения.
– Неглубокие, согласен. Но, увы, самые очевидные вещи как раз хуже всего и доходят до сознания людей. И вот в двадцатом веке, Сьюзен, началась новая полоса войн. Как их назвать? Идеологические? Не знаю. Религиозные страсти наложились на экономические воззрения, и снова войны стали «неизбежны», и на этот раз на сцену истории вышло атомное оружие. Казалось, человечество не выживет, будет катиться все ниже и ниже под уклон неизбежности. И тогда были созданы позитронные роботы. Они появились как раз вовремя, и примерно тогда же были начаты межпланетные перелеты… И сразу стало совершенно безразлично, кто умнее – Адам Смит или Карл Маркс.
– «Бог из машины» явился – в прямом и переносном смысле, – сухо прокомментировала Сьюзен Кэлвин.
– Никогда раньше не слышал от вас каламбуров, Сьюзен, но вы правы. Но и теперь мы не гарантированы от опасностей. Разрешение одной проблемы всегда неминуемо влекло за собой появление другой. Наша всемирная роботизированная экономика не застрахована от проблем, и поэтому были созданы Машины. Экономика Земли стабильна и останется стабильной, будучи основанной на решениях Машин, которые производят расчеты и дают рекомендации, исходя исключительно из соображений пользы для человечества, руководствуясь при этом Первым Законом Роботсхники. И хотя Машины, – продолжал Координатор, – предстааляют собой сложнейшие конгломераты вычислительной техники, когда‑либо существовавшие, тем не менее в свете Первого Закона они такие же роботы, и потому вся земная экономика существует и развивается в соответствии с жизненными интересами человечества. Население Земли знает, что ему не грозит безработица, перепроизводство, недостаток чего‑либо. Нищета, голод – слова из учебников истории. Таким же архаизмом становится и понятие собственности на средства производства. Кто бы ими ни владел (если это еще имеет смысл) – человек, группа людей, нация или все человечество, – любые средства производства могут быть использованы только в соответствии с указаниями Машин. Не потому, что людей принудят поступить так или иначе, а потому, что Машины всегда выбирают самый мудрый, самый оптимальный путь, и люди об этом знают. Это означает, что всем войнам на свете – конец. Если только…
Координатор умолк, и Сьюзен Кэлвин нетерпеливо поторопила его:
– Если только…
– Если только, – закончил Координатор, – Машины не перестанут выполнять свои функции.
– Ясно. Значит, именно этим вы объясняете все эти загадочные неполадки – в сталепрокатной промышленности, гидропонике и так далее?
– Да, Сьюзен. Подобных ошибок не должно быть! Но… доктор Силвер сказал мне, что и не может быть!
– Он что, отрицает очевидное? Не похоже на него.
– Нет, Сьюзен, факты он не отрицает. Я, наверное, не так выразился. Он наотрез отказывается признать, что Машины могут давать неверные ответы. Он утверждает, что Машины устроены так, что сами исправляют собственные ошибки, и что наличие ошибки в соединениях и реле может быть следствием лишь нарушения основных законов природы. Но все‑таки я ему сказал…
– Но все‑таки вы сказали: «Пусть ваши мальчики все проверят еще разок».
– Сьюзен, вы читаете мои мысли. Именно так я ему и сказал, но он ответил, что это невозможно.
– Что, слишком занят?
– Нет, дело не в этом. Он сказал, что на это не способен ни один человек. Он был со мной откровенен. Он мне объяснил – и я искренне надеюсь, что понял его правильно, – что Машины представляют собой колоссальную экстраполяцию. То есть: бригада математиков несколько лет упорно трудится над созданием позитронного мозга, способного производить определенные расчеты. С помощью результатов этих расчетов они потом создают еще более сложный мозг, который предназначен для произведения еще более сложных расчетов и создания еще более сложного мозга, и так далее. Судя по тому, что мне сказал доктор Силвер, то, что мы называем Машинами, является результатом десяти таких последовательных операций.
– Да‑а, дело знакомое, – кивнула Сьюзен, – Какое счастье, что я не математик. Бедный Винсент. Он еще так молод. У руководителей исследовательского отдела до него таких трудностей не было. И у меня тоже. Мне кажется, сегодня роботехники плохо разбираются в своих собственных творениях.
– Пожалуй, вы правы. Машины – это вовсе не простой супермозг, как о них пишут в воскресных приложениях. Ситуация такова, что, собирая и анализируя бесконечное количество данных за немыслимо короткое время, они лишили людей возможности их проверить. Тогда я решил предпринять другую попытку. Я сделал запрос самой Машине. В обстановке строжайшей секретности мы ввели в Машину исходные данные, которые она сама в свое время использовала для принятия решения в области сталепрокатной промышленности, ее собственное решение и информацию о последствиях принятого решения – то бишь о перепроизводстве – и попросили объяснить случившееся.
– Ну и каков же был ответ? – с нескрываемым интересом спросила Сьюзен Кэлвин.
– Я могу процитировать вам его слово в слово: «Суть дела не подлежит объяснению».
– И что на это сказал Винсент?
– Он сказал, что возможны два варианта. Либо мы не дали Машине достаточно данных, чтобы она могла дать более четкий ответ, что, естественно, маловероятно. Это доктор Силвер сам признал. Либо Машина не захотела признать, что она могла принять на основании введенных данных такое решение, которое, противореча Первому Закону Роботехники, могло бы нанести вред людям. А потом доктор Силвер порекомендовал мне посоветоваться с вами.
Сьюзен Кэлвин устало усмехнулась.
– Стара я уже, Стивен. Было время, помните – вы хотели назначить меня руководителем исследовательского отдела, и я отказалась. Я и тогда была немолода, и мне не хотелось брать на себя такую ответственность. Тогда на этот пост пригласили молодого Силвера, и меня это устроило. Но видно, толку мало, раз меня все равно втягивают в эти дела. Позвольте мне, Стивен, изложить свою точку зрения. Проводимые мной исследования действительно касаются поведения роботов в свете Трех Законов Роботсхники. В данный момент мы говорим о достигших невероятной сложности вычислительных устройствах. Они – позитронные роботы и, следовательно, повинуются законам. Однако они не являются личностями, то есть функции их чрезвычайно ограниченны. Так и должно быть, поскольку они узкоспециализированы. Это почти не оставляет места для взаимодействия законов, и мой метод исследования тут практически бесполезен. Короче говоря, не думаю, что могу помочь вам, Стивен.
Дата добавления: 2018-09-22; просмотров: 267; Мы поможем в написании вашей работы! |
Мы поможем в написании ваших работ!