Контроль за разработками полностью автономного оружия
Согласно статье 36 Дополнительного протокола I к Женевской конвенции государства должны разрабатывать новое и модернизировать существующее оружие в соответствии с международным правом. Системы автоматизированных вооружений даже с участием человека в процессе управления должны подвергаться международному контролю.
Международный комитет Красного Креста выдвинул на первый план автономное оружие как проблемную область. Относительно статьи 36 Международный комитет написал: «Использование оружия дистанционного управления на больших расстояниях или оружия с датчиками обнаружения живых целей приводит к автоматизации поля битвы, в котором солдат играет все менее важную роль. И страшно подумать, что может случиться, если полностью автономное оружие будет действовать только по своему усмотрению. Ведь в самой совершенной компьютерной программе может быть сбой. Контроль необходим еще потому, что любую «не опасную» беспилотную систему легко вооружить, как это произошло с американским дроном Predator.
Чтобы соответствовать международному гуманитарному праву, полностью автономное оружие нуждалось бы в человеческих качествах, в которых оно «врожденно» испытывает недостаток. В частности, у таких роботов не было бы способности почувствовать и понять намерения людей. Кроме того, многих людей мысль о роботах, принимающих жизненно важные решения, находящиеся ранее в компетенции людей, приводит в ужас. Развитие автономного оружия должно быть остановлено прежде, чем оно достигнет этапа, когда люди будут полностью удалены от цепочки принятия решений.
|
|
|
Заключение
Полностью автономное оружие сделает развязывание военных действий легче и значительно увеличит урон гражданским лицам во время военных действий. Оно неспособно выполнять основные принципы международного гуманитарного права. Оно подрывает другие, неюридические гарантии, которые защищают гражданские лица во время военных действий. Хотя полностью автономного оружия еще не существует, военная технология быстро развивается в этом направлении. И появление полностью автономного оружия (роботов-убийц) возможно в течение ближайших десятилетий.
Поэтому, прежде чем это станет свершившимся фактом, государства и ученые должны принять срочные меры, чтобы рассмотреть и отрегулировать развитие военной технологии, связанной с автономией роботов. В частности, государства должны запретить создание оружия, у которого есть полная автономия, которое само будет решать, когда применить оружие.
Авторы доклада рекомендуют:
Всем государствам:
• Запретить разработку, производство и использование полностью автономного оружия через международный всеми признанный юридический документ.
|
|
|
• Принять внутригосударственные законы, запрещающие разработку, производство и использование полностью автономного оружия.
• Начать мониторинг технологий, которые могут привести к полностью автономному оружию. Мониторинг должен иметь место в самом начале процесса разработки и продолжаться по фазам разработки и тестирования автоматизированного оружия и оружия с частичной автономией.
Робототехникам и другим лицам, вовлеченным в разработку автоматизированного оружия:
• Установить профессиональные нормы поведения, управляющие научными исследованиями в области автономного оружия.
Такие нормы поведения могут помочь гарантировать, что научные исследования в области автономного оружия развиваются в соответствии с международным гуманитарным правом, которое защищает гражданские лица в вооруженном конфликте. Академические и научные ассоциации могли бы спроектировать и распространить такой кодекс норм поведения. Нормы поведения для военного технического прогресса уже существуют в областях синтетической биологии и нанотехнологии.
|
|
|
Заключение
Представленные в сборнике материалы убедительно свидетельствуют, что боевые, логистические, разведывательные, иные интеллектуальные роботы и автономные системы, находящиеся в распоряжении военных, и в особенности террористов и преступников, порождают все возрастающие риски и угрозы России, ее народу и отдельным гражданам.
Однако все обстоит не так плохо, как представляется. На самом деле все гораздо хуже. Риски и угрозы со стороны автономных интеллектуальных систем и роботов невозможно понять вне контекста Четвертой производственной революции. Сегодня становится ясно, что именно роботы являются интегрированным технопакетом, который объединяет все основные направления Четвертой производственной революции. В самом деле, сегодняшние интеллектуальные военные и гражданские роботы невозможны без информационных технологий, Больших Данных, новых материалов, нанотехнологий, искусственного интеллекта и глубокого машинного обучения. В ближайшие годы ждут появления антропоморфных роботов, где металлические и полимерные детали будут соединены с биологическими фрагментами, полученными на основе достижений синтетической биологии и биоинформатики.
|
|
|
С каждым днем все больше фактов свидетельствует, что при всех несомненных острых проблемах, противоречиях и трудностях, имеющихся в США, Западной Европе, Южной Корее, Китае, Японии и т. п., буквально на наших глазах разворачивается и набирает темпы Четвертая производственная или промышленная революция. До Давосского форума 2016 года она именовалась Третьей производственной революцией. Поскольку организаторы Давоса решили войти в историю, они просто поменяли порядковый номер, не изменив ничего больше в концепции производственной революции Джереми Рифкина. Еще в 2013 году Джереми Рифкин опубликовал международный бестселлер «Третья промышленная революция» (недавно изданный на русском языке), который стал настольной книгой многих политиков как Востока, так и Запада. Ее автор признан одним из наиболее влиятельных экономистов современности. Он является советником Еврокомиссии. Среди его поклонников – Б. Обама, Политбюро Коммунистической партии Китая, правительство Бразилии, а на постсоветском пространстве – руководство Казахстана. На основе идей Рифкина разработан план дальнейшего экономического развития Евросоюз.
Наряду с книгой Дж. Рифкина Третьей производственной революции посвящены еще два бестселлера – книга Питера Марша «Новая индустриальная революция: потребители, глобализация и конец массового производства» (The New Industrial Revolution: Consumers, Globalization and the End of Mass Production) и бестселлер Криса Андерсона «Производители: Новая промышленная революция» (Makers: The New Industrial Revolution). Они стали настольными книгами не только в высоких государственных кабинетах, штабах военачальников, офисах разведслужб, но и, прежде всего, для бизнеса, новой генерации научно-технического, инженерного, производственного и программистского сословий.
При всем различии позиций авторы едины в том, что производственная революция означает глубокие, быстрые в исторической перспективе, скачкообразные (фазовые) изменения в самих основах техники и технологий, используемых во всех основных отраслях хозяйства. Эти изменения ведут к необратимым и качественным сдвигам в организации труда и производства, системах снабжения, маркетинга и потребления. Производственная революция изменяет базовые структуры экономической жизни. Полностью перестраивает социум и привычные способы его регулирования. Преобразует политические институты. Любая производственная революция имеет неоспоримые положительные эффекты и неизбежно связана с целым рядом негативных, как правило, острых и тяжелых социальных последствий и проблем для широких масс населения.
Третья производственная революция по своим масштабам, последствиям и сдвигам стоит не только наравне, а возможно и превосходит Первую и Вторую производственные революции. Первая производственная революция конца XVIII – начала XIX века была связана с текстильной отраслью, энергией пара, углем, железными дорогами и т. п. Вторая производственная революция конца XIX – первой половины XX века стала детищем электричества, двигателей внутреннего сгорания, триумфом машиностроения и конвейера, как метода организации производства.
Уже на начальных стадиях Третьей производственной революции можно выделить несколько определяющих ее черт:
– во-первых, одновременное широкое производственное применение различных независимых кластеров технологий. Прежде всего, робототехники, 3D печати, новых материалов со спроектированными свойствами, биотехнологии, новых информационных технологий и, конечно же, диверсификация энергетического потенциала производства и общества;
– во-вторых, постоянно возрастающее взаимодействие между отдельными технологическими кластерами, их своеобразное «слипание», взаимное кумулятивное и резонансное воздействие друга на друга;
– в-третьих, появление на границах технологических кластеров принципиально новых, не существовавших ранее технологий и семейств технологий, в которых кластеры взаимодействуют между собой.
Основа основ превращения отдельных технологических кластеров или паттернов в единую технологическую платформу – это информационные технологии. Они буквально пронизывают все стороны технологической и производственной жизни, связывая между собой отдельные технологические блоки. Наиболее яркими примерами этого являются такие технологические паттерны, как биотехнологии, робототехника, управляемая на основе больших данных и т. п. По сути, уже на начальном этапе индустриальной революции можно говорить о формировании единой технологической платформы Третьей производственной революции.
В сфере организации производства и труда отличительной чертой Третьей производственной революции является миниатюризация производства в сочетании с сетевой логистикой и персонификацией потребления продукции. Как отмечал в своей работе К. Андерсон: «Если раньше эффективные производства и действенные сети маркетинга и продаж были под силу только большим заводам, крупным ритейловым сетям и транснациональным корпорациям, то в самое ближайшее время это будет доступно всем». Правда, при всей миниатюризации и демократизации производства одновременно будет возрастать зависимость мелкого производителя от поставщиков Больших Данных, программных продуктов и интеллектуальных услуг, которыми останутся, по мнению Дж. Рифкина, крупнейшие информационные компании, типа IBM, Google, Amazon и проч.
Иными словами децентрализация производства, переход к прямым связям в сфере распределения и персонификации потребления будет происходить в условиях сохранения господства цифровых гигантов, контролирующих ключевую технологию Третьей производственной революции – системы сбора, хранения, интеллектуальной обработки и распределенной доставки цифровых данных и компьютерных программ всех типов и размеров.
Ключевым направлением Третьей производственной революции является стремительная автоматизация и роботизация производства, войны и всех сторон общественной жизни. Как отмечают эксперты, многие элементы автоматизации и роботизации могли быть внедрены в промышленное производство еще в 90-е годы прошлого и первое десятилетие нынешнего веков. Однако в те времена экономически выгоднее оказалось использовать вместо роботов практически дармовой труд рабочих из Китая и других азиатских стран. Однако по прошествии времени ситуация изменилась. С одной стороны труд в Азии заметно подорожал. С другой стороны деиндустриализация Америки, многих стран Европы и частично Японии нанесла сильнейший удар по экономике этих стран. Наконец, в последние годы появились принципиально новые программные и микроэлектронные решения, позволяющие в разы повысить эффективность и функционал роботов при снижении себестоимости их производства. Сегодня, например, типовой американский робот на конвейере окупается в течение полутора, максимум двух лет.
Одним из первых плодов ранней стадии Третьей производственной революции становится возврат производства в Америку и Европу. В 2013-2014 годах более половины компаний с оборотом миллиард долларов, объявило, что в ближайшие несколько лет полностью вернет производство из Китая и других азиатских стран в Соединенные Штаты. В США за последнее время темпы роста промышленности превышают динамику многих других секторов экономики. За два последних года в промышленности создано более 700 тыс. несезонных рабочих мест. Это конечно не идет ни в какие сравнение с 6 млн. рабочих мест, потерянных промышленностью США. Но это места в своей массе, отвечающие требованиям Третьей производственной революции с соответствующими показателями производительности и эффективности. Следует также иметь в виду, что 75 % новых разработок и технологий и почти 90 % новых, зарегистрированных патентов создаются в США именно в сфере промышленного производства. Нельзя также не отметить, что в настоящее время Соединенные Штаты контролируют более 65 % высокотехнологичных разработок и 55 % высокотехнологичных патентов в мире. Подобные процессы активно разворачивается в Южной Корее, Японии. Началась реиндустриализация Великобритании. Спохватилась Германия, длительное время почивавшая на лаврах самой успешной высокоиндустриальной экономики XXI века. Пытается развернуть у себя Третью производственную революцию и Китай. Хотя именно в Китае в силу чрезвычайно высокой избыточной доли сельского работоспособного населения, и занятости традиционным индустриальным трудом основной части городского населения реализовать достижения Третьей индустриальной революции очень и очень тяжело.
Как уже отмечалось, ключевым направлением Третьей производственной революции является робототехника. Пора посмотреть, кто в этой сфере являются лидерами, а кто – аутсайдерами.
Уже сейчас в Америке действует или готовится к пуску в ближайшие годы более 15 тыс. полностью автоматизированных производств. В 2014 году по данным International Federation of Robotics было продано 225 тысяч промышленных роботов, что на 27 % больше, чем в 2013 году. Наибольший рост показали объемы продаж в Китае, Южной Кореи, Японии. Новых пиков достигли продажи в Америке и в Европе. При этом, в Китае, как правило, используются относительно простые роботы.
Максимальный объем продаж интеллектуальных роботов – более 40 тыс. – пришелся на Соединенные Штаты, Южную Корею и Японию. Китай таких роботов купил менее 3 тыс. Более 50 % патентов на высокоинтеллектуальные роботы и высокоавтоматизированные производства приходится на Соединенные Штаты, и еще примерно по 10-15 % – на Японию. Великобританию, Германию, и около 5 % – на Южную Корею.
Что касается России, то в 2014 г. в стране было приобретено менее 700 роботов. Из них около 50 – отечественного производства. При этом нельзя сказать, что Россия не может производить роботов. Российские компании – производители роботов – продали в 2014 г. более полутора тысяч роботов в Европу и Южную Корею, а также Китай. Однако, как говорят в интервью руководители этих компаний, отечественные товаропроизводители в робототехнике не заинтересованы.
При всей условности, лучшим показателем роботизации производства и уровня развития Третьей производственной революции является количество роботов на 10 тыс. занятых в обрабатывающей промышленности, машиностроении и т. п. По данным International Federation of Robotics в 2014 г. дело обстояло следующим образом. Лидером является Южная Корея – на 10 тыс. занятых в стране трудится почти 450 индустриальных роботов. Второе место занимает Япония с 340 роботами. Вслед за ними Германия – с 310, Швеция – со 180 и Соединенные Штаты – со 175 роботами. Если смотреть показатели по сложным, многофункциональным высокоинтеллектуальным роботам, то неоспоримое первое место занимают США с почти 50 роботами на 10 тыс. занятых, затем Южная Корея – с 31. И замыкает тройку Япония с 28 роботами.
А как же обстоит дело в России? В России на 10 тыс. занятых приходится чуть меньше 10 роботов. Если же брать многофункциональных интеллектуальных роботов, то на 10 тыс. занятых приходится менее 0,1 роботов, т. е. фактически их нет.
Несложно увидеть, что с Третьей производственной революцией дела в нашей стране обстоят, прямо скажем, плохо. Разрыв в уровне роботизации не только с лидерами, но и среднеразвитыми в плане робототехники странами просто ужасающий и с каждым годом пока он увеличивается.
Ситуация в настоящее время коренным образом отличается от положения дел в прошлом веке. В Советском Союзе не без основания народ знал, что даже если в стране производятся не слишком качественные автомобили, повседневная одежда, не всегда высоким качеством отличаются продукты питания, то с советским вооружением все в порядке. У Красной Армии есть оружие, которое может остановить любого агрессора, даже не прибегая к риску начала глобальной ядерной войны.
В то время военно-промышленный комплекс и гражданская промышленность существовали и развивались в значительной мере отдельно друг от друга. И не только в СССР. В Советском Союзе был архипелаг закрытых городов, в которых работали уникальные предприятия и научно-исследовательские институты Минсредмаша и других оборонных министерств, которые, как тогда выражались «ковали щит Родины».
В сегодняшнем мире все изменилось. В условиях Третьей производственной революции нет больше разделения экономики на военный и гражданский сектора. Этот факт нашел официальное отражение в Стратегии национальной безопасности США-2015 и Новой стратегической инициативе инвестиций и инноваций США, опубликованных в книге «Мировойна. Все против всех. Новейшие концепции боевых действий англосаксов».
В 2015 году в новой Стратегии национальной безопасности Китая, провозглашено, что вся китайская индустрия работает одновременно на укрепление обороноспособности страны и рост благосостояния китайского народа. Аналогичный подход принят и реализуется в Израиле, Японии, берется на вооружение в странах ЕС.
В этой связи в нынешнее время было бы самонадеянным полагать, что в условиях слабой роботизации промышленности и других отраслей экономики, где-то глубоко в закромах Родины, на секретных заводах будут массово производиться смертоносные боевые, неуловимые разведывательные и выносливые логистические интеллектуальные российские роботы. Безусловно, наши конструктора, технологи, инженеры, программисты, исследователи способны и создают уникальные образцы. Но для того, чтобы начать их производить массово, нужно соответствующее оборудование, кадры, технологическая и производственная культура и т. п. Однако в условиях, когда весь современный производственный потенциал это – в основном, экспортируемые из-за рубежа станки, оборудование и технологические линии, подобные надежды сродни плану построить мост вдоль реки. Маниловщина, одним словом.
Здесь хотелось бы привлечь внимание читателей к одной печальной, если не сказать чрезвычайно грустной исторической закономерности. Давайте обратимся к прошлым векам нашего Отечества.
В 1774 году в России в самом разгаре была Крестьянская война под предводительством Емельяна Пугачева, о которой А.С. Пушкин емко написал, как о «русском бунте – бессмысленном и беспощадном». В том же 1774 году в Британии был изобретен революционизирующий тогдашнюю ведущую отрасль – легкую промышленность, ткацкий станок, а Д. Уатт внес решающие изменения в свою паровую машину, которая собственно и возвестила начало решающей стадии Первой производственной революции. В декабре 1825 года на Сенатскую площадь вышли войска, возглавляемые мятежниками, которые в последующем превратились в героев-революционеров. Осенью того же 1825 года Д. Стефенсон запустил первый локомотив на первой общедоступной железной дороге в мире Стоктон – Далингтон на северо-востоке Британии. Железные дороги сделали Первую промышленную революцию необратимой.
В 1905 году началось сооружение завода Генри Форда, где впервые в мире было применено массовое конвейерное производство, сформировавшее облик современной индустрии. В 1908 году из стен завода выехал знаменитый Форд-Т, первый массовый автомобиль в мире, который собственно и ознаменовал начало Второй производственной революции. Россия же в 1903-1905 г. участвовала в трагически закончившейся Русско-Японской войне. А затем на три года погрузилась в пучину смуты и первой русской революции.
В 1923 году в США главным энергетическим источником для индустрии, транспорта и т. п. стала нефть. К этому моменту на США приходилось 72 % мировой добычи. Америка стала лидером Второй производственной революции. Что же касается России, то страна, на которую в 1913 году приходилось почти 20 % мировой добычи нефти и успешно конкурировала с ведущими державами в электротехнике, энергетике, авиастроении и т. п., к 1923 году в результате кровавой смуты, двух революций и Гражданской войны откатилась в дикость, по сути, уничтожив свою промышленность и транспорт. Показательно, что в 1923 году в СССР добывалось менее полутора процентов общемировой добычи нефти.
В 1979 году в Соединенных Штатах большая часть компаний, входящих в список «Форчун»-500 стала использовать в коммерческой и инженерной деятельности электронно-вычислительные машины. В 1981 году IBM создал первый персональный компьютер. Стартовала информационная революция. СССР в 1979 году втянулся в войну в Афганистане, где его войска находились до 1987 года. В 1991 году стал общедоступным интернет. Мир вступил в эпоху информационной революции. Этот год в наших календарях отмечен демонстрациями, митингами и августовским путчем. В декабре 1991 года в результате Беловежского сговора с политической карты мира исчез СССР, и страна погрузилась в очередную смуту. С 1993 года, с появлением первого браузера, интернет из прибежища высоколобых гиков превратился в доступную для всех виртуальную реальность. У нас этот год случились октябрьские бои в Москве и расстрел Белого Дома.
Любая производственная революция определяет расстановку сил в мире на десятилетия, а иногда и на века. Кто оказался впереди, стал хозяином мира. Остальные же на долгий период превратились в лузеров. Как показывает опыт России, мировые производственные революции всегда в нашей стране совпадали со смутами и потрясениями. Безусловно, в определенной, зачастую немалой степени это было связано с целенаправленным и негативным влиянием из-за рубежа. Однако надо смотреть правде в глаза. Главные причины кризисов любой сложной системы, а таковой, несомненно, является России, лежат внутри нее. Российские кризисы, катастрофы, смуты, всегда имевшие внутренние причины, конечно же, поощрялись, подталкивались и усиливались извне. Однако, главная проблема – в нас самих, а не в чужом злом дяде, не в Госдепе, не в Белом доме, и не в коварном «туманном Альбионе». Главная проблема в том, что правящий класс оказывался не на высоте, не справлялся со своими задачами, и не только предавал народ, которому тоже есть что предъявить самому себе, но и терял свои преимущества, а иногда и жизни.
Во второе десятилетие XXI века разворачивающаяся Третья производственная революция по своему магистральному направлению – робототехнике, бросает России пять опасных, угрожающих вызова.
Во-первых, не только Запад, но и другие страны – Япония, Южная Корея, Китай, Индия, Израиль начинают форсировано оснащать армии боевыми, логистическими, разведывательными интеллектуальными роботами и автономными системами. Они становятся обязательным компонентом не только элитных войск и спецназа, а во все возрастающем количестве поступают в армейские и даже тыловые подразделения. Армия, насыщенная роботами, – это во всех случаях более боеспособная, стремительная и выносливая армия, чем привычные традиционные войска. Ей сложно, а в будущем и невозможно противостоять. Армия-победитель, армия, надежно защищающая страну, не когда-то в далеком будущем, а в ближайшие годы – это обязательно высоко роботизированная интеллектуальная армия.
Во-вторых, робототехника, чем дальше, тем больше будет определять конкурентоспособность и эффективность не только обрабатывающего, но и производства вообще. Надо прямо сказать, что впечатляющие успехи, связанные со снижением себестоимости добычи сланцевой и вторичной нефти в США, Канаде, с примерно 90 долл. – в 2010 г. до 25-35 долл. сегодня, в решающей степени связаны с насыщением добывающих отраслей производственными и логистическими автономными и роботизированными интеллектуальными системами. С учетом значения добывающего, в том числе энергетического, сектора в экономике России без роботизации и автоматизации российские нефть и газ будут постепенно, но быстро, вытеснены с мирового энергетического рынка.
В-третьих, в мире все большую роль играют негосударственные акторы. Причем, как показывают события последних лет, в том числе с ИГИЛ, в формировании этих акторов немалую роль играют вполне легальные, в т. ч. финансовые и разведывательные структуры различных стран мира. Негосударственные акторы во все возрастающей степени переплетаются с одной стороны со вполне легальными структурами государственного управления, бизнеса, научной сферой, а с другой – взаимодействуют с транснациональной преступностью. Сегодня террористические структуры превратились в самодостаточные субъекты, действующие на глобальной геополитической арене. Они имеют собственную экономику, исследовательские подразделения, вооруженные силы. Новые террористические структуры – это уже не сети, а гетерархии и рои, аналогов которым в легальных структурах пока нет. Из материалов, опубликованных в книге видно, что овладение террористами высокими технологиями и прежде всего робототехникой – это проблема не завтрашнего, а уже сегодняшнего дня. С учетом того, что в силу многих обстоятельств террористические рои и сети особое внимание уделяют России, то роботы-убийцы террористов представляют особую опасность для нашего народа и государства.
В-четвертых, сегодняшняя глобальная преступность представляет собой уникальный феномен, аналогов которого нет в прошлом. В минувшие века и даже десятилетия преступность носила региональный, страновой, или, в крайнем случае, как, например, с мафией или триадами, трансграничный характер. Сегодняшняя преступность, в отличие от государственных, в т. ч. правоохранительных органов, не знает ни государственных, ни национальных, ни этнических, ни идеологических границ. Преступные организации нового типа действуют повсюду, исходя только из критериев дохода и власти. Все остальное вторично. В то время, как мир сегодня разделен может быть сильнее всего в истории, преступники объединены, как никогда ранее. Соответственно, надо отдавать отчет, что против правоохранительных органов в каждой стране действуют преступники всего мира.
Транснациональные преступные организации обладают невообразимыми финансовыми ресурсами. По совпадающим оценкам международных, американских и российских правоохранительных органов, финансовая прибыль, получаемая только кибер– и наркопреступниками, без учета преступных финансовых операций, торговли оружием, контрабанды и т. п., составляет 2 трлн. долларов ежегодно. Преступные организации уже сегодня широко используют роботов не только для высокотехнологичной, но и уличной преступности. Роботы в руках преступников становятся с каждым днем все большей угрозой для повседневной жизни граждан.
В этой связи надо понимать, что страна, отстающая в роботизации, в оснащенности робототехникой не только вооруженных сил, но и правоохранительных органов, становится желанной добычей для преступников. Они не только похищают деньги, крадут собственность, убивают и насилуют, но и стараются проникнуть в органы и структуры власти на всех уровнях.
Наконец, в-пятых, сами по себе высокоинтеллектуальные робототехнические системы, которые уже сегодня обладают своего рода вычислительным интеллектом, являются угрозой для человека. Чем дальше, тем больше интеллектуальные роботы в различных сферах человеческой жизни, принимают решения вместо людей. Соответственно эти решения, о чем писалось в предисловии, не по злому умыслу, а вследствие алгоритмического вычислительного характера, зачастую могут разойтись с человеческими решениями и вызвать труднопрогнозируемые и соответственно труднопреодолеваемые последствия.
В подобной нетривиальной ситуации страны, где не только далеко продвинулись исследования по вычислительному интеллекту, но и накоплена практика широкого использования интеллектуальной робототехники, имеют опыт преодоления форс-мажорных ситуаций. Это значит, что такие страны могут либо превентивно предупредить, либо, в крайнем случае, оперативно преодолеть последствия ошибочных с человеческой точки зрения решений вычислительного интеллекта. Те же страны, где исследования и практическое применение робототехники не развито, будут неизбежно главными пострадавшими от роботов с вычислительным интеллектом.
Перед лицом новых вызовов, увеличивающихся рисков и множащихся неотвратимых угроз пора прекратить заниматься национальным видом спорта – наступать на грабли. Настало время извлекать уроки не только из чужих, но и прежде всего из своих ошибок. В условиях Третьей производственной революции никакие смуты, революции и потрясения недопустимы. Цена может оказаться слишком высокой. Однако это не означает, что правящий, или как его сейчас называют «политический» класс может сохранять позиции за счет изоляции, консерватизма, игнорирования технологических перемен и отключения социально-экономических лифтов. Это невозможно. Последствия будут трагичны не только для народа и страны, но и для самого политического класса.
У России сегодня нет иного пути, как не просто включиться, а войти за счет имеющегося научно-технологического задела, в том числе в части альтернативных и закрывающих технологий в группу лидеров Третьей производственной революции. Такие возможности есть. Ресурсы пока остаются. Главный, наиболее дефицитный из них – время.
В этой связи бессмысленно и бесперспективно делиться на правых и левых, на либералов и государственников, на сторонников свободного рынка и плановой системы, на тех, кто предлагает больше свобод предпринимателям или, например, продажу нефти за рубли и т. п. Даже важные политические разногласия должны сегодня отойти на второй план. Необходимо национальное согласие на своего рода технократической основе.
Если Россия не включится в Третью производственную революции, если российские роботы не начнут на поле боя, в больницах и на сборочных линиях успешно конкурировать со своими железными или биотехнологическимии собратьями из США, Южной Кореи, Японии или Китая, то завтра Россия в лучшем случае станет добычей других цивилизаций, а в худшем – превратится в поле боя или трофей для различного рода террористических роев и сетей, транснациональных преступных синдикатов.
Пора понять, при всех политических, идеологических и иных разногласиях, все россияне, в конечном счете, – люди одной культуры. Говорим на русском языке. В этом смысле все мы – этнические русские, татары, евреи, чеченцы принадлежим к российской цивилизации. Если и дальше мы хотим оставаться самими собой, говорить и думать на родном языке, то пора отложить в сторону распри и начать делать Дело. Именно Дело, а ни что иное, является сегодня маркером, разделяющим на «своих» и «чужих», на добро и зло. Те, кто работает, производит реальные продукты или нужные услуги, создает что-то новое, двигает инновации, способствует производственной революции, помогает всему этому – на одной стороне. Те же, кто хочет оставаться в прошлом, не производить, а перераспределять, получать, воровать, преступая закон – на другой стороне. Это – чужие.
[1] Рабочий доклад группы по технологическим угрозам при Массачусет-ском Технологическом институте. Извлечения из доклада.
[2] Организация, запрещенная в РФ.
[3] Организация, запрещенная в РФ.
[4] Peter Singer, Wired for War (Penguin Group (USA) Incorporated, 2009), p. 179 and further, notably p. 203.
[5] Министерство обороны США, Unmanned Systems Integrated Road Map FY2011-2036, p. 50, см. сайт http://publicintelligence.net/dod-unmanned-systems-integrated-roadmapfy2011-2036.
[6] См. http: www.usaww1.com/World_War_1_Fighter_Planes.php4.
[7] Nils Melzer, “Human Rights Implications of the usage of drones and unmanned robots in warfare”, исследование Подкомитета по правам человека Европейского парламента (2013), имеется на сайте http: www.europarl.europa.eu/committees/en/studies/html, p. 5.
[8] «Хьюман райтс уотч», Losing Humanity: The Case Against Killer Robots (2012), р. 2, см. сайт http://www.hrw.org/reports/2012/11/19/losing-humanity-0. См. в ответ Michael Schmitt “Autonomous Weapons Systems and International Humanitarian Law: A Reply to the Critics” Harvard International Security Journal (forthcoming 2013), см. сайт http://harvardnsj.org/wp-content/uploads/2013/02/Schmitt-Autonomous-Weapon-Systems-and-IHL-Final.pdf)/ В целях содействия такому запрещению был создан Международный комитет по контролю роботизированного оружия (МККРО). См. http://icrac.net.
[9] Ronald Arkin, Governing Lethal Behaviour in Autonomous Robots (CRC Press, 2009); Kenneth Anderson and Matthew Waxman, “Law and ethics for robot soldiers”, Policy Review, No. 176 (2012), см. сайт http://www.hoover.org/publications/policy-review/article/135336.
[10] David Collingridge, The Social Control of Technology (Frances Pinter, 1980).
[11] А/65/321.
[12] Ф/65/321, стр. 13-27.
[13] Международный пакт о гражданских и политических правах, статья 6, гарантирующая право на жизнь, и статья 4 (2) о недопустимости отступлений.
[14] Arkin (см. сноску 8 выше). Р. 7; Noel Sharkey Automating Warfare: lessons learned from the drones , р. 2, см. сайт http://www.alfredoroma.it/wp-content/uploads/2012/05/Automated-warfare-Noel-Sharkey.pdf; Patrick Lin et al, Autonomous Military Robotics: Risk, Ethics, and Design (San Luis Obispo, California Polytechnic State University, 2008) p. 4, см. сайт http:/ethics.calpoly.edu/ONR_report.pdf.
[15] Директива министерства обороны США, “Autonomy in Weapons Systems”, Number 3000.09 of 21 November 2012, Glossary Part II. См. также United Kingdom Ministry of Defence “The UK Approach to Unmanned Aircraft Systems” paras. 202-203, имеется на сайте http://www.gov.uk/government/publications/jdn-2-11-the-uk-approach-to-unmanned-aircraft-systems; см. также, «Хьюман райтс уотч» (см. сноску 7 выше), р. 2.
[16] Singer, р. 67.
[17] Это также касается «своеобразности», Singer (см. сноску 3 выше), р. 101.
[18] См. http://usmilitary.about.com/library/milinfo/navyfacts/blphalanx.htm.
[19] См. http://www.dtic.mil/cgi-bin/GeTRDoc?AD=ADA557876.
[20] См. http://www.israeli-wеapons.com/weapons/aircraft/uav/harpy/harpy.html.
[21] См. http://www.baesystems.com/product/BAES_020273/taranis.
[22] См. http://www.as.northropgrumman.com/products/nucasx47b/assets/X-47B_Navy_UCAS_FactsSheet.pdf.
[23] См. http://singularityhub.com/2010/07/25/armed-robots-deployed-by-south-korea-in-demilitarized-zone-on-trial-basis.
[24] ВВС США, “UAS Flight Plan 200902047” (Washington, D.C., 2009) p. 41, см. сайт http://www.scribd.com/doc/17312980/United-States-Air-Force-Unmanned-Aircraft-Systems-Flight-Plan-20092047-Unclassified.
[25] Ronald Arkin «Goverming Lethal Behaviour: Embedding Ethics in a Hybrid Deliberative/Reactive Robot Architecture” Technical Report GIT-GVU-07-11 p. 5, available from hrrp://www.cc.gatech.edu/ai/robot-lab.online-publicationv35.pdf.
[26] Anderson and Waxman, pp. 2 and 13 and Singer, р. 379.
[27] Gary Marchant et al, «International governance of autonomous military robots”, Columbia Science and Technology Law Review, Volume XII (2011) p. 275.
[28] Singer, р. 83.
[29] Arkin, XII.
[30] А/65/321, пункт 44; John Mueller “The Iraq Syndrome”, Foreign Affairs , Vol. 84, No. 6, p. 44 (November/December 2005).
[31] По мнению военных экспертов, чем больше расстояние между применяющим оружие и целью, тем легче, как правило, становится лишить человека жизни. См. David Grossman On Killing: The Psychological Cost of Learning to Kill in War and Society (Back Bay Books, 1996).
[32] Armin Krishnan Killer robots: Legality and Ethicality of Autonomous Weapons (Ashgate, 2009) p. 150.
[33] Singer, р. 323; Peter Asaro “How Just Could a Robot War Be?” in P. Brey et al (eds.). Current Issues in Computing And Philosophy (2008), p. 7.
[34] A/53/202, пункт 98.
[35] Asaro, рр. 7-9. Обсуждается в работе Patrick Lin et al “Robots in War: Issues of Risk and Ethics” in R. Capurro & M. Nagenborg (eds.) Ethics and Robotics (2009), p. 57.
[36] Anderson and Waxman, р. 12.
[37] По мнению некоторых комментаторов, война требует определенной готовности пойти на обоюдный или взаимный риск, связанный с возможностью понести определенные жертвы. См. Kahn “The Paradox of Riskless Warfare” Philosophy and Public Policy Vol. 22 (2002) и “War and Sacrifice in Kosovo” (1999), см. сайт http://www-personal.umich.edu/-elias/Courses/War/kosovo.htm.
[38] Lin, р. 50.
[39] Marchant, р. 280; Singer, р. 398.
[40] Arkin, р. 127.
[41] Jonathan Herbach “Into the Caves of Steel: Precaution, Cognition and Robotic Weapons Systems Under the International Law of Armed Conflict” Amsterdam Law Forum Vol. 4 (2012), p. 14/
[42] Дополнительный протокол I к Женевским конвенциям, 1977, статьи 51 и 57.
[43] Noel Sharkey “Grounds for Discrimination: Autonomous Robot Weapons” RUSI Defence Systems (Oct 2008) pp. 88-89, имеется на сайте http://rusi.org/downloads/assets/23sharkey.pdf.
[44] Peter Asaro “On Banning Autonomous Weapon Systems: Human Rights, Automation, and the Dehumanisation of Lethal Decision-making”, International Review of the Red Cross (forthcoming 2013) p. 11/
[45] «Хьюман райтс уотч», р. 31.
[46] Marchant, р. 280.
[47] Singer, р. 398.
[48] Singer, р. 398.
[49] Дополнительный протокол I к Женевским конвенциям, 1977, статья 51 (5) (b).
[50] «Хьюман райтс уотч», р. 32.
[51] Lin, р. 57.
[52] Noel Sharkey, “Automated Killers and the Computing Profession” Computer , Vol. 40 (2007), p. 122.
[53] Krishnan, рр. 98-99.
[54] Tonya Hagmaier et al, “Air force operations and the law: A guide for air, space and cyber forces” p. 21, см. сайт http://www.afjag.af.mil/shared/media/document/AFD-100510-059.pdf; Andru Wall “Legal and Ethical Lessons of NATOs Kosovo Campaign” p. xxiii, см. сайт http://www.au.af.mil/au/awc/awcgate/navy/kosovo_legal.pdf.
[55] Markus Wagner «The Dehumanization of International Humanitarian Law: Legal, Ethical, And Political Implications of Autonomous Weapon Systems” (3012), см. сайт http://robots.law.miami.edu/wp-content/uploads/2012/01/Wagner_Dehumanization_of_international_humanizatian_law.pdf note 96 и сопутствующий текст.
[56] Benjamin Kastan «Autonomous Weapons Systems: A Coming Legal Singularity?”University of Illinois Journal of Law, Technology and Policy (forthcoming 2013), p. 18 and further, см. сайт http://papers.ssrn.com/so13/papers.cfm?abstract_id=2037808.
[57] «Хьюман райтс уотч», рр. 42-45.
[58] Римский статус МУС, статья 28; Heather Roff “Killing in War: Responsibility, Liability and Lethal Autonomous Robots” p. 14, см. сайт http://www.academia.edu/2606840/Killing_in_War_Responsibility_Liability_and_Lethal_Autonomous_ Robots.
[59] Дополнительный протокол I к Женевским конвенциям, 1977, статьи 86 (2) и 87.
[60] Patrick Jin “Introduction to Robot Ethics” in Patrick Lin et al (eds.) Robot Ethics: The ethical and Social Implications of Robotics (MIT Press, 2012), p. 8.
[61] Wendell Wallach “From Robots to Techno Sapiens: Ethics, Law and Public Policy in the Development of Robotics and Neurotechnologies” Law, Innovation and Technology Vol. 3 (2011) p. 194.
[62] Gianmarco Verugio and Keith Abney “Roboethics: The Applied Ethics for a New Science” in Lin (see note 59 above), p. 114; Robert Sparrow “Killer Robots” Journal of Applied Philosophy Vol. 24, No. 1 (2007).
[63] См. Ronald Arkin “The Robot didn’t do it” Position Paper for the Workshop on Anticipatory Ethics, Responsibility and Artificial Agents p. 1, см. сайт http://www.cc.gatech.edu/ai/robot-lab/publications.html.
[64] Marchant, р. 7.
[65] Krishman, р. 105.
[66] Krishman, р. 113.
[67] A/HR/17/28, с. 17 текста на английском языке.
[68] Asaro, р. 13.
[69] Протокол I к Женевским конвенциям, статья 1 (2). См. также преамбулы к Гаагским конвенциям 1899 и 1907 годов. Гаагская конвенция о законах и обычаях сухопутной войны и приложение: Положение о законах и обычаях сухопутной войны (Гаагская конвенция II).
[70] Asaro, р. 13.
[71] См. http://www.springer.com/medicine/surgery/journal/11701.
[72] Asaro, р. 14.
[73] Robert Sparrow “Robotic Ewapons an d the Future of War” in Jessica Wolfendale and Paolo Tripodi (eds.) New Wars and New Soldiers: Military Ethics in the Contemporary World (2011), p. 11.
[74] Jutta Weber “Robotic warfare, human rights and the rhetorics of ethical machines”, pp. 8 and 10, см. сайт http://www.gender.uu.se/digitalAssets/44/44133_Weber_Robotic_Warfare.pdf.
[75] Singer, р. 261–263.
[76] Предусмотрены Гаагской конвенцией 1907 года и Дополнительными протоколами к Женевским конвенциям, принятыми в 1977 году.
[77] См. сайт http://www.icrc.org/eng/war-and-law/conduct-hostilities/methods-means-warfare/index.jsp.
[78] Договор о запрещении противопехотных мин (1997); и Конвенция по кассетным боеприпасам (2008).
[79] Дополнительный протокол I 1977 года к Женевским конвенциям, статья 35 (2); МККК, Обычное международное гуманитарное право , норма 70.
[80] Протокол о запрещении применения на войне удушающих, ядовитых или других подобных газов и бактериологических средств, Женева, 17 июня 1925 года.
[81] Конвенция о некоторых видах обычных вооружений, Протокол III о зажигательном оружии.
[82] Marchant, р. 287, Asaro, р. 10.
[83] Marchnt, р. 300, См. также Bonnie Docherty “The Time is Now: A Historical Argument for a Cluster Munitions Convention” 20 Harvard Human Rights Law Journal (2007), р. 53 (общий обзор).
[84] Договор о запрещении противопехотных мин (1997), статья 6, и Конвенция о некоторых видах обычных вооружений, Протокол V о взрывоопасных пережитках войны (2003), статья 8. Конвенция по кассетным боеприпасам (2008), статья 5, стала новаторской в том отношении, что ответственность за оказание помощи возлагается на затронутое государство.
[85] S/2012/376, пункт 28 (в котором одобряется приверженность Миссии Африканского союза и Сомали на этот счет).
[86] Там же, пункт 29 (Генеральный секретарь «приветствовал практику компенсации ущерба»).
[87] Marchant, рр. 306-314.
[88] Обсуждается в International Review of the Red Cross vol. 88, December 2006.
[89] Директива Министерства обороны США.
[90] Там же, пункт 4.а.
[91] Там же, пункт 4. с и d.
[92] Там же, приложение 3.
[93] Источник: http://roboting.ru/1725-о-robotah-ubiycah.html.
Дата добавления: 2018-09-22; просмотров: 211; Мы поможем в написании вашей работы! |
Мы поможем в написании ваших работ!