Смертоносные автономные системы вооружения: ландшафт и перспективы

Смертоносные автономные системы вооружения:
ландшафт и перспективы


Богданов К. В.,

Кандидат технических наук, ИМЭМО им. Е.М. Примакова РАН, Москва, Россия, cbogdanov@imemo.ru


elibrary_id: 276507 | ORCID: 0000-0002-5922-0791 | RESEARCHER_ID: D-4116-2019

Евтодьева М. Г.,

Кандидат политических наук, ИМЭМО им. Е.М. Примакова РАН, Москва, Россия, marianna133@mail.ru


elibrary_id: 531653 | ORCID: 0000-002-3477-4763 | RESEARCHER_ID: Q-2240-2018

Дата поступления статьи: 2022.04.22. Принята к печати: 2022.09.01
DOI: 10.17976/jpps/2022.06.06

Правильная ссылка на статью:

Богданов К. В., Евтодьева М. Г. Смертоносные автономные системы вооружения: ландшафт и перспективы. – Полис. Политические исследования. 2022. № 6. С. 67-80. https://doi.org/10.17976/jpps/2022.06.06


Статья опубликована в рамках проекта “Посткризисное мироустройство: вызовы и технологии, конкуренция и сотрудничество” по гранту Министерства науки и высшего образования РФ на проведение крупных научных проектов по приоритетным направлениям научно-технологического развития (Соглашение № 075-15-2020-783).

Аннотация

Активное развитие военных технологий искусственного интеллекта приближает момент массового развертывания смертоносных автономных систем вооружения (САС). Точное международно признанное определение САС до сих пор отсутствует, что приводит к терминологическим спорам, за которыми скрываются как военно-технические, так и этико-философские проблемы. Задача контроля над автономными системами оружия сложна и должна рассматриваться междисциплинарно, одновременно в нескольких плоскостях, включая соображения оперативного применения, морально-этические дилеммы и правовые коллизии. Все три типа соображений фокусируются вокруг проблем значимого человеческого контроля и атрибуции ответственности за применение САС. Показана проблема фиктивности номинального человеческого контроля над сложными техническими системами, использующими непрозрачные алгоритмы функционирования. Значительное сопротивление разработчиков новых видов оружия, доказывающих достаточность существующих норм международного гуманитарного права для регулирования новой области, затрудняет введение дополнительных ограничений на САС. Существующие соглашения по контролю над распространением технологий лишь частично способны служить инструментом для контроля над САС. Отмечено, что в случае с САС возможен мощный импульс к развитию особого направления в контроле над вооружениями, связанного с юридическими аспектами атрибуции ответственности за неправомерное применение систем оружия, чего не наблюдалось прежде в корпусе международно-правовой базы по контролю над вооружениями. В условиях обрушения системы контроля над вооружениями, сложившейся после окончания холодной войны, в кратко- и среднесрочном периоде могут быть предложены определенные частные меры предотвращения наиболее дестабилизирующих проявлений САС.

Ключевые слова
беспилотные системы, искусственный интеллект, контроль над вооружениями, международное гуманитарное право, оговорка Мартенса, смертоносные автономные системы, человеческий контроль.


Список литературы

Голубенко Е.А. 2017. Автономные системы вооружения и международное гуманитарное право. Вестник Академии военных наук. № 2. С. 101-106.

Евтодьева М.Г., Ознобищев С.К. 2019. Боевые беспилотные системы: современный этап развития, перспективы ограничения и контроля. Вестник Московского университета. Серия 25: Международные отношения и мировая политика. № 3. С. 160-197.

Контроль над вооружениями в новых военно-политических и технологических условиях. 2020. Под ред. А.Г. Арбатова. М.: ИМЭМО РАН.

Макаренко С.И. 2016. Робототехнические комплексы военного назначения – современное состояние и перспективы развития. Системы управления, связи и безопасности. № 2. С. 73-132.

Пелдан Карлсон М., Буланен В. 2021. Группа правительственных экспертов по смертоносным автономным системам оружия. Ежегодник СИПРИ 2020: вооружения, разоружение и международная безопасность. М.: ИМЭМО РАН. С. 582-595.

Энтони И., Бромли М., Буланен В., Грип Л. 2016. Гуманитарный контроль над вооружениями. Ежегодник СИПРИ 2015: вооружения, разоружение и международная безопасность. М.: ИМЭМО РАН. С. 630-641.

Энтони И., Холланд К. 2015. Управление автономным оружием. Ежегодник СИПРИ 2014: вооружения, разоружение и международная безопасность. М.: ИМЭМО РАН. С. 456-465.

 

Autonomy, artificial intelligence and robotics: technical aspects of human control. (2019). Geneve: ICRC.

Benjamin, M. (2013). Drone warfare: killing by remote control. London: Verso.

Bode, I., & Watts, T. (2021). Meaning-less human control. Lessons from air defence systems on meaningful human control for the debate on AWS. Odense: Center for War Studies, South Denmark University.

Boulanin, V., & Veerbruggen, M. (2017). Mapping the development of autonomy in weapon systems. Stockholm: SIPRI.

Davison, N. (2017). A legal perspective: autonomous weapon systems under international humanitarian law. Perspectives on lethal autonomous weapon systems. UNODA Occasional Paper No. 30 (pp. 5-18).

De Sio, F.S., & van den Hoven, J. (2018). Meaningful human control over autonomous systems: a philosophical account. Frontiers in Robotics and AI, 5, 1-15. https://doi.org/10.3389/frobt.2018.00015

Fisher, J., & Ravizza, M. (1999). Responsibility and control. Cambridge, UK: Cambridge University Press.

Ivanov, D.V., Korzhenyak, A.M., & Lapikhina, E.S. (2021). Lethal autonomous weapons systems and international law. Moscow Journal of International Law, 3, 6-19. https://doi.org/10.24833/0869-0049-2021-3-6-19

Kania, E. (2017). Battlefield singularity: artificial intelligence, military revolution, and China’s future military power. Washington, D.C.: Center for a New American Security.

Lee, P. (2018). The distance paradox: reaper, the human dimension of remote warfare, and future challenges for the RAF. Air Power Review, 21(3), 106-131.

Marra, W.C., & McNeil, S.K. (2012). Understanding the loop: regulating the next generation of war machines. Harvard Journal of Law & Public Policy, 36(3), 1139-1185. https://dx.doi.org/10.2139/ssrn.2043131

McGregor, L., Murray, D., & Ng, V. (2019). International human rights law as a framework for algorithmic accountability. International and Comparative Law Quarterly, 68, 2, 309-343. https://doi.org/10.1017/S0020589319000046

Osinga, F.P.B. (2007). Science, strategy and war: the strategic theory of John Boyd. New York, NY: Routledge.

The Military Balance 2021. (2021). London: Routledge.

Содержание номера № 6, 2022

Возможно, Вас заинтересуют:


Арбатов А. Г.,
Десять апорий нашего времени. Теория и практика ядерного сдерживания. – Полис. Политические исследования. 2021. №4

Ознобищев С. К.,
Политика и контроль над вооружениями. – Полис. Политические исследования. 2021. №6

Нисневич Ю. А.,
Гражданский контроль как механизм противодействия коррупции: проблемы реализации в России . – Полис. Политические исследования. 2011. №1

Максимов М. А.,
Проблема субъекта антисистемной деятельности в современной философской мысли. – Полис. Политические исследования. 2010. №4

Ерохов И. А.,
Новая ситуация политического знания: труд, контроль и образ будущего. – Полис. Политические исследования. 2018. №4



Комментарии к этой странице:

 
 

Архив номеров

   2022      2021   
   2020      2019      2018      2017      2016   
   2015      2014      2013      2012      2011   
   2010      2009      2008      2007      2006   
   2005      2004      2003      2002      2001   
   2000      1999      1998      1997      1996   
   1995      1994      1993      1992      1991