КОД, КОМАНДУВАННЯ ТА НАСЛІДКИ: ХТО НЕСЕ ВІДПОВІДАЛЬНІСТЬ ЗА ВІЙСЬКОВІ ЗЛОЧИНИ, СКОЄНІ ІЗ ЗАСТОСУВАННЯМ ЛЕТАЛЬНИХ АВТОНОМНИХ СИСТЕМ ЗБРОЇ?
DOI:
https://doi.org/10.18372/2307-9061.75.20212Ключові слова:
ЛАСЗ, воєнні злочини, AI, відповідальність, збройний конфліктАнотація
Метою дослідження є вивчення правових та етичних проблем, що виникають у сучасних збройних конфліктах через зростаючу інтеграцію летальних автономних систем зброї (ЛАСЗ). Оскільки ці технології набувають операційної актуальності, дослідження має на меті з’ясувати, хто несе відповідальність, коли автономні системи здійснюють дії, що порушують міжнародне гуманітарне право (МГП). Також метою є оцінка того, чи є існуючі правові інструменти адекватними для вирішення складнощів, що виникають через можливості автономного прийняття рішень летальних систем на основі штучного інтелекту. Методи: у статті дослідження було проведено з використанням порівняльно-правових та доктринальних методів для оцінки того, як різні правові системи та міжнародні актори реагують на виклик регулювання ЛАСЗ. Історичний метод було застосовано для простеження розвитку правових норм, пов’язаних з технологіями озброєння та збройними конфліктами, що забезпечує контекст для розуміння сучасних правових прогалин та необхідності оновленого регулювання, а нормативний метод також був використаний для підкреслення необхідності запровадження нових регулятивних та заборонних норм для регулювання проблеми. Результати: це дослідження розглядає правові та етичні проблеми, що виникають у зв’язку із застосуванням правил, встановлених законами та нормами у сучасній війні. У ньому висвітлюються труднощі у визначенні відповідальності, коли вчиняються дії, що порушують МГП. У дослідженні також оцінюється неадекватність чинної правової бази для вирішення цих проблем та необхідність нових правил для забезпечення відповідальності та захисту цивільного населення. Обговорення: ЛАСЗ здатні самостійно ідентифікувати та стріляти по цілях, без будь-якого контролю людини. З одного боку, це пропонує тактичні переваги, такі як швидкість, точність та зменшення прямої участі людини, але з іншого боку, це призводить до глибоко тривожної правової та етичної дилеми: хто має нести відповідальність, коли автономна система зброї скоює воєнний злочин? Існуючі закони, що ґрунтуються на передумові прийняття рішень людиною, нелегко застосовувати, коли машина виконує потенційно незаконну дію без чіткої людської команди. Юридична загадка полягає в тому, хто (або що) несе відповідальність у таких сценаріях, що загрожує підірвати індивідуальну кримінальну відповідальність та захист цивільного населення під час збройного конфлікту.
Посилання
“Autonomous Weapons Systems: Technical, Military, Legal and Humanitarian Aspects,” International Committee of the Red Cross, Expert Meeting, 2014, p. 7.
Klare Michael, “Assessing the Dangers: Emerging Military technologies and Nuclear (In)Stability,” An Arms Control Association Report, 2023, p. 12.
Certain Conventional Weapons (CCW) Convention, Fifth Review Conference of the High Contracting Parties, ‘Report of the 2016 informal meeting of experts on lethal autonomous weapons systems (LAWS)’, CCW/CONF.V/2, 10 June 2016, Annex, para. 3.
Boulanin Vincent, Bruun Laura, Goussac Netta, Autonomous Weapon Systems and International Humanitarian Law, Stockholm International Peace Research Institute (SIPRI), 2021, p. 14.
Boulanin Vincent, Verbruggen Maaike, Mapping the development of autonomy in weapon systems, Stockholm International Peace Research Institute (SIPRI), 2017, pp. 53-54.
US Department of Defense (DOD), Office of Technical Intelligence, Office of the Assistant Secretary of Defense for Research and Engineering, Technical Assessment: Autonomy (DOD: Washington, DC, Feb. 2015), p. 2.
Szegedy Christian, Zaremba Wojciech, Sutskever Ilya et al., intriguing properties of neural networks, 2014.
Nguyen Anh, Yosinski Jason, Clune Jeff, Deep neural networks are easily fooled: High confidence predictions for unrecognizable images, Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2015.
Boulanin Vincent, Verbruggen Maaike, Mapping the development of autonomy in weapon systems, Stockholm International Peace Research Institute (SIPRI), 2017, p. 10.
Alexander, R. D., Herbert, N. J., & Kelly, T. P. The role of the human in an autonomous system. Systems Safety 2009. Incorporating the SaRS Annual Conference, 4th IET International Conference, p. 2.
Boulanin Vincent, Verbruggen Maaike, Mapping the development of autonomy in weapon systems, Stockholm International Peace Research Institute (SIPRI), 2017, p. 10-13.
Boulanin Vincent, Verbruggen Maaike, Mapping the development of autonomy in weapon systems, Stockholm International Peace Research Institute (SIPRI), 2017, p. 10-13.
Ekelhof, Merel A. “Moving Beyond Semantics on Autonomous Weapons: Meaningful Human Control in Operation.” Global Policy, vol. 10, no. 3, 2019, pp. 343–348.
Scharre, Paul. “Autonomous Weapons and Human Control.” Center for a New American Security, 2018.
Boulanin Vincent, Bruun Laura, and Goussac Netta, Autonomous Weapon Systems and International Humanitarian Law: Identifying Limits and the Required Type and Degree of Human–Machine Interaction, Stockholm International Peace Research Institute (SIPRI), June 2021, p. 26.
Davison Neil, “A Legal Perspective: Autonomous Weapon Systems under International Humanitarian Law” (UNODA Occasional Papers, No. 30, 2018, pp. 5-6.
Blanchard Alexander, and Taddeo Mariarosaria, “Autonomous Weapon Systems and Jus Ad Bellum.” Ethics and Information Technology, vol. 24, no. 3, 2022, p. 3; Abney Keith. “Robotics, Ethics, and War.” The Ethics of Robot Warfare, edited by Patrick Lin, Keith Abney, and George A. Bekey, Oxford UP, 2013, p. 340.
Winter Elliot, “The Compatibility of Autonomous Weapons with the Principles of International Humanitarian Law” Journal of Conflict & Security Law (Oxford University Press), 2022, pp. 3-4.
Davison Neil, “A Legal Perspective: Autonomous Weapon Systems under International Humanitarian Law” (UNODA Occasional Papers, No. 30, 2018, pp7-8.
Australian Human Rights Commission, Human Rights and Lethal Autonomous Weapons Systems: Submission to the Human Rights Council Advisory Committee, 2023, p. 5.
Australian Human Rights Commission, Human Rights and Lethal Autonomous Weapons Systems: Submission to the Human Rights Council Advisory Committee, 2023, p. 5.
Tsagourias Nicholas, Morrison Alasdair, International Humanitarian Law: cases, materials and commentary, Cambridge, 2019, pp. 85-87.
Australian Human Rights Commission, Human Rights and Lethal Autonomous Weapons Systems: Submission to the Human Rights Council Advisory Committee, 2023, p. 9.
Cassese, Antonio. International Criminal Law. 2nd ed., Oxford University Press, 2008, p. 80.
International Criminal Court, Trial Chamber III. Judgment Pursuant to Article 74 of the Statute: The Prosecutor v. Jean-Pierre Bemba Gombo. ICC-01/05-01/08, 21 Mar. 2016, para.146.
Heyns, Christof. Report of the Special Rapporteur on Extrajudicial, Summary or Arbitrary Executions. United Nations Human Rights Council, A/HRC/23/47, 9 Apr. 2013, para. 114.