Компьютеры и искусственный интеллект 11 страница
1 И все же многие неиробиологи чувствуют себя не очень уютно, читая у Чёрчленд о редукционизме. Это обнаружилось пару лет назад на одной из конференций в Швейцарии, так любимых нейробиологами, где была возможность покататься на горных лыжах. Участники проводили в первой половине дня научные заседания, а до того и после того занимались делом, т. е. выходили на склон и вечером оставались там, пока не стемнеет или пока не иссякнут силы. Такое времяпровождение, вероятно, лучше всего попадает под хорошо известное определение «досуг после теоретизирования». Темой конференции были «взаимоотношения между нейроанатомией и психологией», а открывать дискуссию должна была Чёрчленд. Она взошла на редукционистскую кафедру и стала проповедовать грядущее сведение психологии к нейроанатомии, ожидая, по-видимому, лишь легкой критики со стороны группы нейробиологов. К своему удивлению, она столкнулась с сильной оппозицией большинства присутствующих, особенно из лагеря нейроанатомов!
Чтобы лучше понять разницу между двумя подходами, представьте себе, например, человека, стреляющего в тире по движущимся металлическим уткам. Приверженец коннекционистских моделей с параллельной обработкой информации спросил бы: как должны быть связаны нейроны, чтобы подвижные изображения передавались через сетчатку глаза в надлежащие области мозга («скрытые слои»), и как должны при этом изменяться их свойства, чтобы они могли «научиться» вызывать соответствующие моторные реакции? Сторонник холистического подхода поставил бы вопрос иначе: как можно построить такой сервомеханизм, который получал бы информацию о положении и движении уток и соответственно управлял движениями стрелка? Будут ли. выходные реакции такого механизма сходны с реакциями человека, решающего ту же задачу? И если не будут, то почему?
|
|
|
На протяжении почти всей сорокалетней истории искусственного интеллекта преобладал второй из этих подходов. Однако, развивая его, разработчики совсем перестали думать о том, как работает настоящий мыслящий мозг. Вместо этого они сосредоточили внимание на решении проблем, связанных с конструированием силиконовых элементов компьютера и с разработкой математической логики. Это могло приводить к созданию более сложных и эффективных машин, но не имело никакого отношения к биологическим системам, которые вначале предполагалось моделировать. Общее мнение сторонников такого подхода откровенно выразила Маргарет Боден - философ из Суссекского университета - такими словами: «Чтобы быть мозговитым, мозги не нужны» [23].
Порочная метафора
К чему бы ни призывали разработчики моделей того или иного типа, я считаю, что оба подхода порочны в своей основе, если задача состоит в том, чтобы понять, как работают природный мозг и природный разум (или даже память). Отсюда и провал всех прежних предсказаний о возможных сроках создания искусственного интеллекта и появления компьютеров, подобных мозгу: наиболее оптимистичные последователи Винера в пятидесятых годах уверенно ожидали этого к концу шестидесятых, потом откладывали до семидесятых, восьмидесятых, а затем и на начало третьего тысячелетия. Но время шло, на смену персептронам приходили новые модели и программы и так же исчезали.
|
|
|
Недавно с критикой методологии и перспектив разработки искусственного интеллекта выступили три автора - философ, математик и иммунолог. Я кратко изложу их доводы, прежде чем перейду к моим собственным проблемам, связанным с вычислительной аналогией.
Первым идет философ Джон Сирл, который для аргументации своих взглядов ставит тест Тьюринга как бы с ног на голову. Представьте себе, что в закрытой комнате находится человек, который не знает китайского языка, но через машину получает вопросы, написанные по-китайски. В его распоряжении имеется код, позволяющий сопоставлять китайские иероглифы с другим набором текстов, содержащим ответы на задаваемые вопросы. Эти ответы можно передавать, опять-таки с помощью машины, за пределы комнаты. Находящимся снаружи наблюдателям будет ясно, что на заданные по-китайски вопросы поступают осмысленные ответы на том же языке; таким образом, тот, кто находится в комнате, выдержит тест Тьюринга. Но из этого никак не следует, что он понимал содержание посланий, поступавших в комнату и выходивших из нее, и отвечал на них сознательно и разумно: на самом деле он выполнял чисто автоматические операции. Именно это, говорит Сирл, делают компьютеры, и потому нет оснований считать их разумными и сознательными устройствами [24].
|
|
|
Второй автор - оксфордский математик Роджер Пенроуз, чья недавно вышедшая книга «Новый ум императора» содержит последовательную критику принципов коннещионизма [25]. Точка зрения Пенроуза по сути очень проста: для того чтобы эти принципы работали, в нейронной сети между клетками должны существовать достаточно стабильные, фиксированные отношения, которые могут изменяться лишь в ответ на специфические входные сигналы, после чего система должна реагировать детерминированным образом. По мнению Пенроуза, против этого говорят современные физические и математические представления. Квантовые механизмы, по его утверждению, обусловливают изначальную недепгерминированность нервных реакций; что касается математики, то ставшая весьма модной теория хаоса показывает, как недетерминированные системы могут тем не менее действовать вполне упорядоченным образом (например, случайное хаотическое движение молекул газа в сосуде приводит в целом к точной и предсказуемой зависимости между температурой, давлением и объемом, которую описывает простой газовый закон Бойля).
|
|
|
Таким образом, по мнению Пенроуза, стратегия редукционизма не выдерживает критики по двум взаимосвязанным причинам. Во-первых, недетерминированность на уровне нейронов и синаптических связей между ними означает, что мы никогда не сможем понять работу мозга и разума путем простого анализа составляющих компонентов, реакции которых непредсказуемы по самой своей природе. Во-вторых, эта неопределенность на уровне отдельных компонентов может, однако, обеспечивать предсказуемость на уровне всей системы. Поэтому сознание, разум, память возникают как свойства мозга в целом, а не как свойства его отдельных элементов.
Третьим критиком искусственного интеллекта и лежащих в его основе методов обработки информации выступает лауреат Нобелевской премии, иммунолог и теоретик из Рокфеллеровского университета Джералд Эделмен. В своем недавно вышедшем трехтомном труде [26] он пытается решить необычайно смелую задачу - создать общие теории биологии развития, нервной организации и сознания на основе аналогии, почерпнутой не из физики или техники, а из эволюционной теории и прежде всего из собственного понимания дарвиновского естественного отбора. Кое в чем я согласен с критикой Эделмена, хотя и не поддерживаю его в выборе аналогии; однако более подробное обсуждение этого вопроса требует дополнительных биологических сведений, которьгх я еще не дал читателю, и поэтому я откладываю его до последней главы. Сейчас я хотел бы поговорить о том, почему меня не удовлетворяет сравнение мозга, разума и памяти с компьютером и его вычислительными функциями.
Эта аналогия, столь завораживающая многих, всегда воспринималась с подозрением биологически мыслящими представителями нейронаук по причинам как структурного, так и организационного порядка. В структурном отношении платы с транзисторами, системы «и/или», логические схемы и другие элементы компьютеров совсем не похожи на аналогичные механизмы нейронов, если последние вообще можно рассматривать как единицы обмена информацией в пределах нервной системы. Функциональные единицы компьютеров детерминированы, имеют малое число входов и выходов, а процессы, осуществляемые ими с такой поразительной правильностью, протекают последовательно и свободны от ошибок. Элементы ЭВМ хранят и обрабатывают информацию по заданному заранее набору правил. Одно из следствий этого - то, что создатели компьютерных моделей мозга настойчиво пытаются конкретным образом воплотить отдельные типы процессов, в которых участвует разум или мозг. В частности, сама концепция «искусственного интеллекта» подразумевает, что разумность есть просто свойство самой машины (я бы сказал, что такая материализация равно неприемлема и в отношении компьютеров, и в отношении мозга).
Сравнение мозга с компьютером несостоятельно, так как системы нейронов, образующие мозг, в отличие от компьютерных систем в высокой степени недетерминированы. В этом утверждении я иду даже дальше Пенроуза, поскольку я хочу подчеркнуть, что нельзя рассматривать мозг и его обладателей - прежде всего человеческий мозг и самого человека - как закрытые системы вроде молекул газа в запаянном сосуде. Совсем наоборот, это открытые системы, сформированные собственной историей и находящиеся в непрерывном взаимодействии с природным и общественным окружением, которое изменяет их, но и само при этом подвергается изменению. Такая открытость обусловливает еще один уровень неопределенности в работе мозга и поведении его владельца. В отличие от компьютеров мозг не функционирует безошибочно и действие его не ограничено последовательной обработкой информации; его организацию нельзя даже свести к небольшому числу «скрытых слоев». Каждый из нейронов центральной нервной системы имеет тысячи входов (синапсов), различных по значимости и по месту, откуда к ним приходят сигналы. (В мозгу человека имеется, по-видимому, до 1014-1015 синапсов, так что у каждого из нас в сотню тысяч раз больше межнейронных связей, чем людей, живущих сейчас на Земле!) Мозг отличается большой пластичностью, т. е. способностью изменять свою структуру, химию, физиологию и выходные реакции в результате приобретения опыта и случайных обстоятельств в процессе развития. В то же время он обладает большим запасом надежности и может весьма эффективно восстанавливать свои функции после травмы или инсульта.
Последовательные операции мозг выполняет относительно медленно, зато процессы формирования суждений происходят в нем с необыкновенной легкостью, которая ставит в тупик разработчиков компьютерных моделей.
Рассмотрим простой эксперимент: человеку быстро показывают четыре цифры и просят его запомнить их, а потом назвать. Почти каждый легко справится с этой задачей. Но если число цифр увеличить до семи-восьми, это станет не по силам большинству испытуемых, особенно в том случае, если интервал между предъявлением цифр и просьбой вспомнить их будет увеличен с нескольких минут до часу и более. Максимальную способность человека запоминать ряды случайных цифр можно довольно просто рассчитать и выразить в битах, как описано ниже для последовательности из восьми цифр: - сначала подсчитывают биты для самих чисел:
8-log2l0=8-3,32=26,56;
- затем, поскольку цифры должны стоять в определенном порядке, нужно рассчитать информацию об этом порядке, которую можно выразить как log28!= 15,30.
В общей сложности получается всего лишь 41,86 бит, и тут оказывается, что емкость нашей памяти недостаточна, чтобы справиться с таким объемом! Теперь сравните эту величину с числом битов, на которое рассчитана память простого карманного калькулятора: примерно одна тысяча. А десятисантиметровый мягкий диск двойной плотности, вставленный в мой любимый «Эппл Мэк», на котором я печатаю эти фразы, способен хранить в своей памяти более 10 млн. бит информации.
В чем же действительный смысл такого подсчета? Джон Гриффит, математик из Кембриджа [27], однажды прикинул, что если бы человек непрерывно запоминал информацию со скоростью 1 бит в секунду на протяжении 70 лет жизни, то в его памяти накопилось бы 1014 бит, что приблизительно эквивалентно количеству информации, заключенному в Британской энциклопедии или в 10 000 мягких дисков; это почти столько же, сколько вмещает жесткий диск в моем компьютере. Весьма впечатляющая цифра для микро-ЭВМ, но на удивление скромная для функционирующего мозга.
Неужели объем человеческой памяти действительно меньше, чем у микрокомпьютера? Очевидно, что-то не в порядке со всеми этими расчетами. Что бы это могло быть? А вот и подсказка: хотя я не способен запомнить больше восьми цифр, вспыхивающих передо мной на экране, я однажды продемонстрировал слушателям возможности человеческой памяти, сначала показав гораздо более длинный ряд из 48 цифр, а затем повернувшись к экрану спиной и правильно назвав их:
524719382793633521255440908653225141355600362629.
Как мне удалось это, если я не выдержал испытания даже восемью цифрами? Очень просто. Этот длинный перечень был не случайным набором цифр, а последовательностью дат дней рождения, телефонных номеров и других цифровых кодов, которыми я постоянно пользуюсь и потому помню. Но я помню их не так, как компьютер безошибочно помнит цифровую информацию, и не храню их в своей памяти как непрерывную последовательность. В отличие от компьютерной человеческая память постоянно ошибается и пользуется множеством особых приемов, чтобы сохранить информацию. Для меня эта особенная, уникальная последовательность цифр имеет смысл, и он известен только мне. Этим я отличаюсь от компьютера и от того переводчика с китайского, который сидит в комнате Сирла. Я вспоминаю цифры именно по их смыслу, а не по простой последовательности. Более того, я настаиваю, что смысл, значение не синонимичны информации. Смысл подразумевает динамическое взаимодействие между мною и цифрами, это процесс, который несводим к количеству информации.
Другой пример. Вчера за обедом мне принесли меню с большим выбором блюд. Я просмотрел его, выбрал кое-что и съел. Я и сегодня помню, что обед состоял из капустного супа и отварной лососины. Информация, содержавшаяся в печатном тексте меню, преобразовалась в воспоминание об испытанных ранее вкусовых ощущениях, затем в устный заказ официанту и, наконец, в восприятие реальной пищи и ее нынешнего вкуса. Теперь, когда я рассказываю вам, что ел капустный суп и лососину, я не предлагаю вам ни меню, ни саму пищу, еще меньше я предполагаю, что вы отведаете ее; вместо этого я продолжаю трансформировать мой вчерашний опыт, переводя его в слова [28]. В каждом звене этой последовательности происходит не просто переключение с одного способа представления информации на другой, а определенная работа с этой информацией, которая приводит к ее необратимому преобразованию (я не говорю уже о работе, которую проделывает любой слушатель или читатель этого описания в ходе дальнейшей трансформации полученных сведений и интерпретации приведенных мною данных).
Таким образом, мозг работает не с информацией в компьютерном понимании этого слова, а со смыслом, или значением. А значение - это исторически формируемое понятие, оно находит выражение в процессе взаимодействия индивидуума с природной и социальной средой. Одна из трудностей изучения памяти состоит в том,, что приходится иметь дело с диалектическим феноменом. Вспоминая, мы всегда выполняем над воспоминанием какую-то работу и трансформируем его. Мы не просто извлекаем образы из хранилища и, использовав, возвращаем обратно в прежнем виде, а каждый раз пересоздаем заново. В заключительной главе мне придется более обстоятельно поговорить об этой работе по пересозданию следов памяти.
Моя критика до сих пор касалась моделей коннекционистского типа, однако сходные аргументы могут относиться и к холистическому подходу. Достаточно вспомнить контраст между относительной легкостью, с какой программисты смогли научить машины играть в шахматы на гроссмейстерском уровне, и трудностями, с которыми они столкнулись при создании робота, способного водружать оранжевую пирамиду на синий куб. И для сравнения посмотрите, как точно нетренированный человек бросает апельсиновую кожуру в мусорную корзину с расстояния в несколько метров от нее или, например, как легко обучается игре в покер. Конечно, можно создать программу для расчета вероятности взятки при выпадении карты в масть к трем уже имеющимся; но в покере мы, кроме того, имеем дело с чем-то вроде психологического соревнования, с необходимостью перехитрить соперника, что требует оценки моментов, не поддающихся рациональному познанию; а с такой оценкой, я уверен, не сможет хорошо справиться никакая машина. Можно еще получить какое-то удовольствие, играя с компьютером в шахматы, но при игре в покер против программы это исключено. Может быть, надо заменить тест Тьюринга или Сирла покерным тестом?
Попытки холистов обойти стороной проблему мозга и сконцентрировать все внимание на моделировании разума выхолащивают реальное биологическое содержание из психологии, пытающейся объяснить поведение. Эта сухая, почти схоластическая методология утверждает, что стоит только идентифицировать определенные свойства разума и связанные с ним процессы, как можно будет смоделировать эти свойства и процессы в абстрактнь1х экспериментах или наборе математических символов, а потом воплотить их (может быть, лучше сказать «вмашинить») в силиконовых деталях, световых переключателях или магнитных монополях не хуже, чем они воплощаются в сложных органических структурах, из которых в процессе эволюции был создан настоящий мозг [29]. Так и возник афоризм Боден: «Чтобы быть мозговитым, мозги не нужны», которым она хочет сказать, что мозговые функции можно моделировать, пользуясь новейшими, особо мощными компьютерными системами, полностью игнорируя их биологическую природу. Нужны только соответствующие механизмы или их математические модели, которые реагировали бы на входные сигналы и формировали ответы, подобные тем, что формируются в мозгу. Такие системы будут работать наподобие систем машинного перевода, преобразующие французскую фразу в ее английский эквивалент, хотя способ осуществления такого перевода может ничем не напоминать приемы, используемые для той же цели людьми.
Отделение разума от его конкретной материальной основы в известном смысле возвращает нас к старой картезианской концепции дуализма «мозг - сознание». В то же время отношение к мозгу, как к некоему черному ящику, где важна только зависимость между входом и выходом, а внутренние биологические процессы и механизмы несущественны, напоминает бихевиористский подход в психологии, о котором речь более подробно пойдет в главе 6.
Концепции психики и мозга бихевиористам не нужны. Поведение человека и других животных они объясняют на основе его собственных закономерностей, видя в нем просто цепи реакций, вырабатывающихся в результате вознаграждения или наказания за те или иные ответы на стимул. Если картезианский дуализм считать тезисом, а бихевиоризм антитезисом, то программа холистов, отраженная в лапидарном лозунге Боден, будет своего рода лукавым гегельянским синтезом.
Для того чтобы раскрыть смысл афоризма Боден, давайте рассмотрим аналогичное утверждение: «Чтобы передвигаться, не обязательно иметь две ноги». Конечно, это утверждение верно. Можно перемещаться по земле на четырех ногах, подобно лошади, или имея много ног, как сороконожки, или вообще без ног, как змеи или улитки. Можно двигаться на колесах по рельсам, как движется железнодорожный состав, или более свободно, как автомобиль, либо, наконец, с помощью гусениц, как танк. Можно передвигаться на воздушной подушке или использовать магнитную подвеску. В конце концов, можно представить себе и путешествие на ковре-самолете. Все эти способы в функциональном отношении сводятся к переходу из точки А в точку Див этом смысле совершенно эквивалентны. Однако принципы, на которых они основаны, очень сильно, иногда радикально, различаются. Если нас интересует специальный вопрос о ходьбе, ее происхождении, способе осуществления, временном расстройстве под влиянием алкоголя или более длительном нарушении в результате мозговой травмы, то чтение сказок о летающих коврах или изучение автомобильного двигателя и даже оставляемого змеей волнистого следа принесет мало пользы. Но именно такого рода специфические механизмы интересуют большинство исследователей мозга, какими бы скучными и тривиальными они ни казались философам.
Дата добавления: 2019-02-13; просмотров: 183; Мы поможем в написании вашей работы! |
Мы поможем в написании ваших работ!