Искусственный интеллект и естественная глупость
Хорошая новость состоит в том, что, по крайней мере, в ближайшие десятилетия нам не придется иметь дело с полноценным научно‑фантастическим кошмаром, в котором искусственный интеллект обретает разум и решает поработить или уничтожить людей. В процессе принятия решений мы все больше будем полагаться на алгоритмы, но сценарий, при котором алгоритмы начнут сознательно манипулировать нами, маловероятен. У них не возникнет сознание.
Научная фантастика обычно путает интеллект с сознанием и предполагает, что для того, чтобы сравняться с человеческим интеллектом или превзойти его, компьютеры должны обладать сознанием. Сюжет почти всех фильмов и романов об искусственном интеллекте вращается вокруг того волшебного момента, когда у компьютера или робота появляется сознание. Затем или главный герой влюбляется в робота, или робот пытается уничтожить человечество, или то и другое происходит одновременно.
Но в реальности нет никаких оснований предполагать, что у искусственного интеллекта появится сознание, поскольку интеллект и сознание – совершенно разные вещи. Интеллект – это способность решать задачи. Сознание – способность чувствовать боль, радость, любовь или гнев. Мы часто путаем эти понятия, потому что у людей и других млекопитающих интеллект неразрывно связан с сознанием. Млекопитающие решают большинство задач посредством чувств. Но у компьютеров совсем другой подход.
|
|
|
К развитому интеллекту ведут разные пути, и лишь немногие из них предполагают появление сознания. Самолеты летают быстрее птиц, но перьев у них нет; точно так же компьютеры решают задачи гораздо лучше, чем млекопитающие, не прибегая к помощи чувств. Конечно, искусственный интеллект должен уметь с высокой точностью анализировать человеческие чувства, чтобы лечить болезни, выявлять террористов, рекомендовать подходящего партнера или ориентироваться на улице, заполненной пешеходами. Но способность чувствовать для этого не нужна. Алгоритму не обязательно испытывать радость, гнев или страх, чтобы распознать отличающиеся друг от друга биохимические паттерны веселой, сердитой или испуганной человекообразной обезьяны.
Разумеется, полностью исключить появление у искусственного интеллекта собственных чувств нельзя. Мы еще недостаточно изучили феномен сознания, чтобы однозначно ответить на этот вопрос. В целом нам следует рассмотреть три возможных варианта:
1. Сознание каким‑то образом связано с органической биохимией, и в неорганических системах появление сознания невозможно.
2. Сознание не связано с органической биохимией, но связано с интеллектом, так что у компьютеров не только может, но и должно появиться сознание, как только они перешагнут определенный порог развития интеллекта.
|
|
|
3. Не существует никаких значимых связей между сознанием и органической биохимией, а также сознанием и высоким интеллектом. Поэтому компьютеры могут обладать сознанием – но не обязательно. Они могут иметь сверхвысокий интеллект, но прекрасно обходиться без сознания.
При нынешнем уровне знаний о человеке мы не исключаем ни один из этих вариантов. Но именно недостаток знаний делает маловероятным, что в ближайшем будущем нам удастся разработать программу для компьютера, обладающего сознанием. Поэтому, несмотря на огромную мощь искусственного интеллекта, в обозримой перспективе его использование будет в определенной степени зависеть от человеческого сознания.
Опасность состоит в том, что, если мы вложим слишком много сил и средств в развитие искусственного интеллекта и слишком мало – в развитие человеческого сознания, чрезвычайно изощренный искусственный интеллект компьютеров будет лишь усугублять естественную глупость людей. В ближайшие десятилетия мы вряд ли столкнемся с восстанием роботов, но не исключено, что нам придется иметь дело с ордами ботов, которые умеют воздействовать на наши эмоции успешнее, чем наша родная мать, и используют эту способность, чтобы пытаться нам что‑то продать – автомобиль, политического деятеля или целую идеологию. Боты будут распознавать наши скрытые тревоги и тайные желания, а затем использовать их против нас. Мы уже видели, как это выглядит, во время недавних выборов и референдумов по всему миру, когда хакеры научились манипулировать отдельными избирателями, анализируя информацию о них и используя их предрассудки[74]. Научно‑фантастические триллеры тяготеют к драматическому апокалипсису с огнем и дымом, но в реальной жизни мы можем столкнуться с весьма тривиальным апокалипсисом, просто кликая компьютерной мышью.
|
|
|
Чтобы избежать такого исхода, на каждый доллар и каждую минуту, вложенные в совершенствование искусственного интеллекта, было бы разумно тратить по одному доллару и одной минуте на развитие человеческого сознания. К сожалению, сегодня мы делаем слишком мало для исследования и развития нашего сознания. Мы, как правило, проводим научно‑исследовательские и опытно‑конструкторские разработки (НИОКР) в области человеческих способностей в поисках ответа на насущные требования экономической и политической системы, забывая о наших долговременных потребностях как сознательных существ. Мой начальник хочет, чтобы я оперативно отвечал на письма, но его совсем не интересует моя способность чувствовать вкус пищи и наслаждаться ею. Поэтому я проверяю электронную почту даже во время еды – и теряю способность сосредоточиваться на своих ощущениях. Экономическая система призывает расширять и диверсифицировать инвестиционный портфель, но не побуждает расширять и диверсифицировать мое сострадание. Поэтому я стараюсь проникнуть в тайны фондовой биржи, но прилагаю гораздо меньше усилий, чтоб понять глубинные причины страданий людей.
|
|
|
В этом отношении люди похожи на домашних животных. Мы вывели послушных коров, дающих огромное количество молока, но в остальном сильно уступающих своим диким предкам. Они не такие проворные, любопытные и изобретательные[75]. Теперь мы создаем прирученных людей, которые производят огромное количество данных и функционируют как высокопроизводительные чипы в машине обработки информации, но эти «информационные коровы» вряд ли приумножают человеческий потенциал. В сущности, мы понятия не имеем, каковы человеческие возможности, потому что очень мало знаем о своем сознании. Тем не менее мы вкладываем недостаточно ресурсов в изучение человеческого сознания, а вместо этого стремимся повысить скорость интернет‑связи и эффективность алгоритмов Big Data. Такое легкомыслие может привести к тому, что деградировавшие люди будут неправильно использовать совершенные компьютеры, уничтожая самих себя и мир вокруг.
Цифровые диктатуры – не единственная опасность, которая нас подстерегает. В списке главных либеральных ценностей наряду со свободой фигурирует равенство. Либерализм всегда восхвалял политическое равенство, но постепенно пришел к выводу о важности и экономического равенства. Дело в том, что без системы социального обеспечения и минимального экономического равенства свобода бессмысленна. Алгоритмы больших данных способны не только уничтожить свободу, но и одновременно сформировать общество с небывалым уровнем неравенства. Немногочисленное меньшинство монополизирует богатство и власть, а большинство людей окажутся просто ненужными.
4
Равенство
Кто владеет информацией – владеет будущим
В последние десятилетия людям во всем мире внушали, что человечество движется к всеобщему равенству, а достичь его быстрее помогут глобализация и технологии. На самом деле XXI век может породить общества с таким неравенством, какого еще не знала история. Глобализация и интернет выравнивают положение стран, но углубляют пропасть между классами. Не исключено, что на пороге глобальной унификации сам человек как вид разделится на разные биологические касты.
Неравенство уходит корнями еще в каменный век. 30 тысяч лет назад группы охотников и собирателей одних соплеменников хоронили в роскошных могилах вместе с тысячами бусин из слоновой кости, браслетами, драгоценными камнями и предметами искусства, а других просто опускали в яму и засыпали землей. Тем не менее сообщества каменного века были более эгалитарными, чем любое из последующих: ведь у древних людей почти не было собственности. Именно собственность является условием для долговременного неравенства.
После аграрной революции собственности стало во много раз больше – а вместе с ней и неравенства. По мере того как люди получали в собственность землю, животных, растения и орудия труда, появлялись общества с жесткой иерархией, в которых немногочисленные элиты монополизировали бóльшую часть богатств и власти, передавая их из поколения в поколение. Такой порядок вещей стал считаться естественным и даже предписанным свыше. Иерархия стала не просто нормой, но и идеалом. Разве может существовать порядок без четкой иерархии с разделением на аристократов и обычных людей, на мужчин и женщин, на родителей и детей? Во всем мире священники, философы и поэты твердили: как не равны органы человеческого тела (ноги должны подчиняться голове), так и в человеческом обществе равенство не принесет ничего, кроме хаоса.
В Новейшее время равенство стало идеалом почти во всех человеческих обществах. Одна из причин этого – появление новых идеологий: коммунизма и либерализма. Другой причиной была промышленная революция, значительно усилившая влияние народных масс. Промышленная экономика опиралась на массы обычных рабочих; основу армий индустриальных обществ составляли массы обычных солдат. И при демократии, и при диктатуре правительства вкладывали значительные средства в здоровье, образование и благополучие масс, поскольку нуждались в миллионах здоровых тружеников для работы на заводском конвейере и миллионах преданных солдат для борьбы с врагами.
Таким образом, в XX веке неравенство между классами, расами и полами сокращалось. В 2000 году в мире еще сохранялись иерархии, но равенства в нем было гораздо больше, чем в 1900‑м. Люди ждали, что в первые годы XXI века этот процесс продолжится и даже ускорится. В особенности они надеялись, что глобализация принесет экономическое процветание всему миру и жители Индии и Египта получат те же возможности и привилегии, что и граждане Финляндии и Канады. С этой надеждой выросло целое поколение.
Сегодня мы приходим к выводу, что подобные мечты могут и не сбыться. Совершенно очевидно, что глобализация принесет пользу очень многим, однако в последнее время появились признаки усиления неравенства как между обществами, так и внутри их. Немногочисленные группы все больше монополизируют плоды глобализации, а миллиарды людей не получают ничего. Уже сегодня 1 % самых богатых людей владеет более чем половиной мирового богатства. Еще бóльшую тревогу вызывает тот факт, что состояние 100 самых богатых людей превышает суммарное состояние 4 миллиардов самых бедных[76].
Но и это еще не предел. Как отмечалось в предыдущих главах, развитие искусственного интеллекта может уничтожить экономическую ценность и политическое влияние большинства людей. В то же время развитие биотехнологий позволит превратить экономическое неравенство в биологическое. Сверхбогатые люди в конечном счете найдут действительно достойное применение своему богатству. Раньше они могли купить лишь символы статуса, но вскоре у них появится возможность купить саму жизнь. Если новые препараты для продления жизни или улучшения физических и когнитивных способностей будут очень дорогими, может образоваться глубокая биологическая пропасть между богатыми и бедными.
На протяжении всей истории человечества богачи и аристократы считали себя лучше остальных и утверждали, что именно поэтому власть принадлежит им. Как мы знаем, это неправда. Средний герцог был не более талантлив, чем средний крестьянин, а своим высоким положением он был обязан несправедливой юридической и экономической дискриминации. Тем не менее не исключено, что в 2100 году богатые действительно станут более талантливыми, умными и креативными личностями, чем обитатели трущоб. После того как образуется реальная пропасть между способностями богатых и бедных, преодолеть ее будет практически невозможно. Если богатые будут использовать свои способности для еще большего обогащения и если за деньги можно будет купить более совершенные тела и мозги, со временем эта пропасть только расширится. К 2100 году 1 % самых состоятельных людей будет владеть большей частью не только мирового богатства, но и красоты, творческих способностей и здоровья.
Таким образом, эти два процесса – биоинженерия и развитие искусственного интеллекта – совокупно могут привести к разделению человечества на небольшой класс суперлюдей и массовый низший класс бесполезных Homo sapiens. Ситуацию усугубляет то обстоятельство, что по мере утраты массами экономического значения и политической власти государство лишается по крайней мере части стимулов для инвестиций в здоровье, образование и благополучие людей. Изобилие очень опасно. В этом случае судьба масс будет зависеть от доброй воли немногочисленной элиты. Эта добрая воля, вполне вероятно, продержится пару десятилетий или даже больше. Но где гарантия, что в период кризиса – например, климатической катастрофы – элита устоит перед искушением выбросить лишних людей за борт?
В таких странах, как Франция и Новая Зеландия, с давними традициями либеральных убеждений и политики «государства всеобщего благоденствия», элита, скорее всего, будет заботиться о массах, даже перестав в них нуждаться. Однако в США с их классическим капитализмом элита, вероятно, воспользуется первой же возможностью избавиться от остатков социального государства. Еще более серьезные проблемы ждут крупные развивающиеся страны, такие как Индия, Китай, ЮАР и Бразилия. В них после утраты людьми экономической ценности неравенство, скорее всего, стремительно вырастет.
Таким образом, вместо глобализации, ведущей к всемирному единству, мы рискуем получить «видообразование»: разделение человечества на разные биологические касты или даже виды. Глобализация объединит мир по горизонтали, стерев национальные границы, но одновременно разделит человечество по вертикали. Правящие олигархии в таких разных странах, как США и Россия, могут объединиться и общим фронтом выступить против простых сапиенсов. С этой точки зрения нынешнее неприятие «элит» имеет серьезные основания. Если мы не проявим осторожность, внуки магнатов из Кремниевой долины и московские миллиардеры превратятся в высшую касту по отношению к внукам жителей горных районов Аппалачей и сибирских деревень.
Дата добавления: 2019-09-13; просмотров: 122; Мы поможем в написании вашей работы! |
Мы поможем в написании ваших работ!