Давление « вырождения ». (“Dysgenic” pressures).
Возможно, что продвинутое цивилизованное общество зависит от того, чтобы в нём была достаточно большая доля интеллектуально одарённых людей. Сейчас кажется, что имеется негативная корреляция в некоторых местах между интеллектуальностью и фертильностью. Если такая селекция продлится в течение длительного периода времени, мы можем развиться в менее мозговитых, но более размножающихся существ, homo philoprogenitus («любитель большого числа отпрысков»).
Однако вопреки тому, что могут заставить подумать эти рассуждения, IQ фактически значительно вырос в течение последнего столетия. Это известно как эффект Флинна ( Flynn ); см. например [51,52]. Не определено, однако, соответствует ли это реальным достижениям в важных интеллектуальных функциях.
Более того, генетическая инженерия быстро приближается к точке, где станет возможным дать родителям выбор наделять своих отпрысков генами, которые коррелируют с интеллектуальными способностями, физическим здоровьем, долгожительством и другими желательными чертами.
В любом случае, временная шкала естественной человеческой генетической эволюции кажется слишком большой, чтобы такое развитие событий имело бы какой-либо значительный эффект до того, как другие процессы сделают эту проблему спорной [19,39].
Технологическая остановка. (Technological arrest).
Существенные технологические трудности в переходе к постчеловеческому миру могут оказаться столь велики, что мы его никогда не достигнем.
|
|
|
Нечто непредвиденное. [прим. 11]
Как и в прошлый раз, категория на все случаи жизни.
В общем, вероятность сужения выглядит гораздо меньшей, чем взрыва. Нам следует иметь эту возможность в виду, но не давать ей играть доминирующую роль в нашем мышлении на данном этапе. Если технологическое и экономическое развитие должно будет замедлиться по неким причинам, тогда мы должны будем обратить более пристальное внимание к сценариям сужения.
Скрипы. (Shrieks).
Выяснение того, какие сценарии являются скрипами, стало более трудным из-за включения понятия «желательности» в определение. Если мы не знаем, что есть «желательное», мы не можем сказать, какие сценарии являются скрипами. Однако есть ряд сценариев, которые следует считать скрипами, исходя из наиболее разумных интерпретаций.
Захват власти превосходящим интеллектом, загруженным в компьютер. (Take - over by a transcending upload).
Предположим, что загрузки сознания в компьютер возникнут раньше искусственного интеллекта человеческого уровня. Загрузка – это ум, перенесённый с биологического мозга в компьютер, который эмулирует вычислительный процесс, имеющий место в исходной биологической нейронной сети [19,33,53,54]. Успешный процесс загрузки ума сохранит изначальную память, навыки, ценности и сознание.
|
|
|
Загрузка ума упростит улучшение его интеллекта, путём запуска на большей скорости, добавления дополнительных компьютерных ресурсов или оптимизации архитектуры. Можно предположить, что улучшение загрузки выше некого уровня приведёт к появлению позитивной обратной связи, когда продвинутая загрузка будет способна находить пути сделать себя ещё умнее; и более умная следующая версия будет, в свою очередь, ещё лучше в создании улучшенной версии себя, и так далее. Если этот быстрорастущий процесс произойдёт внезапно, он может привести к тому, что загрузка достигнет сверхчеловеческого уровня интеллекта, тогда как все остальные останутся на примерно человеческом уровне. Такое колоссальное интеллектуальное преимущество легко может дать ей соответственно большую власть. Она может, например, быстро ввести новые технологии или совершенные нанотехнологические конструкции. Если превосходящая загрузка имеет склонность к тому, чтобы не допустить других к тому, чтобы тоже загрузиться в компьютер, она сможет сделать это.
Тогда постчеловеческий мир может быть отражением частных эгоистических предпочтений этой загрузки (которые в худшем случае будут хуже, чем просто бесполезными). Такой мир легко может стать реализацией только малой части того, что возможно и желательно. Этот исход – Скрип.
Дата добавления: 2019-03-09; просмотров: 153; Мы поможем в написании вашей работы! |
Мы поможем в написании ваших работ!