State Responsibility for Violations of Humanitarian Rights by Autonomous Artificial Intelligence Systems

Mirzaamraji, Mehrnoosh

State Responsibility for Violations of Humanitarian Rights by Autonomous Artificial Intelligence Systems

Document Type : Original Article

Author

Mehrnoosh Mirzaamraji

PhD in Public International Law, Lecturer at Justice University, Tehran, Iran

Abstract

The rapid advancement of artificial intelligence technology and the increasing use of autonomous weapon systems in contemporary armed conflicts have raised fundamental questions about the international responsibility of states for possible violations of humanitarian rights by these systems. The aim of this research is to explore the foundations, scope, and challenges facing the realization of such responsibility. The present article, using a descriptive-analytical method and using reliable library resources, examines the responsibility of states in the stages of development, deployment, and use of these systems. The research findings show that the existing legal framework, especially the treaty and customary rules contained in the scheme of international responsibility of states and the fundamental principles of humanitarian law, has the necessary capacity to establish the responsibility of states. However, achieving this requires overcoming challenges such as the accountability gap, especially in the criminal dimension, the lack of algorithmic transparency (the black box issue), the ambiguity in attributing system behavior to the state, the divergence of standards for legal review of new weapons (Article 36 of Additional Protocol I), and the need to maintain meaningful human control. Therefore, developing an internationally binding treaty within the framework of the Convention on Certain Conventional Weapons, strengthening state accountability mechanisms, amending the Statute of the International Criminal Court, and establishing institutional and technical guarantees for transparency and oversight are undeniable necessities.

Keywords

International responsibility of states

humanitarian law

artificial intelligence

autonomous weapons systems

Subjects

1. ابراهیم‌گل، علیرضا (۱۳۹۱). مسئولیت بین‌المللی دولت: متن و شرح مواد کمیسیون حقوق بین‌الملل. تهران: مؤسسه مطالعات و پژوهش‌های حقوقی شهر دانش.

2. ابوذری، مهرنوش؛ برزگر، محمدرضا؛ نادری، زهرا (۱۴۰۳). امکان‌سنجی مسئولیت کیفری سلاح‌های جنگی مبتنی‌بر هوش مصنوعی و مسئلۀ بیکیفرمانی در دادگاه کیفری بین‌المللی. حقوق فناوری‌های نوین، ۵ (۹)، 24-1.

3. پیری، حیدر (۱۴۰۳). استفاده نظامی از سیستم‌های تسلیحاتی خودمختار مبتنی بر هوش مصنوعی در مخاصمات مسلحانه؛ تعهدات حفاظتی دولت‌ها در چهارچوب حقوق بین‌الملل بشردوستانه. دوفصلنامۀ بین‌المللی حقوق بشر، ۲۰(۱)، 278-253.

4. پیری، حیدر (۱۴۰۴). مسئولیت بین‌المللی دولت‌ها در ارتباط با کاربست سلاح‌های مبتنی بر هوش مصنوعی در درگیری‌های مسلحانه. حقوق فناوری‌های نوین، ۶ (۱۲).

5. خانی ورگچ، بهزاد؛ نصیری، محمدرضا (۱۴۰۴). ابعاد حقوقی استفاده از هوش مصنوعی در تصمیم‌گیری‌های نظامی و مسئولیت بین‌المللی دولت‌ها. کنفرانس ملی منتشر شده در سیویلیکا.

6. خورشیدی اقدم مهربانی، سارا؛ زرگر، افشین؛ محمودی، امیر؛ عصمتی، زینب (۱۴۰۱). مسئولیت اشخاص و مسئولیت بین‌المللی دولت در قبال به کارگیری سلاح‌های مجهز به هوش مصنوعی. سیاست جهانی، ۱۱ (۲)، ۳60-۳37.

7. خورشیدی اقدم مهربانی، سارا؛ زرگر، افشین؛ محمودی، امیر؛ عصمتی، زینب (۱۴۰۳). کاربرد فن‌آوری هوش مصنوعی در تسلیحات نظامی از منظر حقوق بشردوستانه. پژوهش‌های روابط بین‌الملل.

8. دروگری، ریحانه؛ عباس‌زاده، مائده (۱۴۰۲). کاربرد هوش مصنوعی و چالش‌های حقوق بشردوستانه بین‌المللی. چهارمین همایش ملی فضای سایبر.

9. رنجبریان، امیرحسین (۱۳۹۷). رعایت حقوق بشردوستانه توسط ربات‌های نظامی خودمختار و مسئولیت ناشی از اقدامات آنها. مجله حقوقی بین‌المللی، ۳۵ (۵۹)، ۶۳-۸۴.

10. سیفی، بهزاد (۱۳۹۹). مسئولیت کیفری به‌کارگیری وسایل بدون سرنشین خودکار از دید حقوق بین‌الملل بشردوستانه. آفاق امنیت، ۱۳ (۴۹)، ۲۹-۵۴.

11. شمسایی، محمد؛ سلیمی ترکمانی، حجت (۱۳۸۷). تأملی بر مسئولیت بین‌المللی دولت‌ها ناشی از نقض حقوق بشردوستانه بین‌المللی. فقه و حقوق، ۵ (۱۷)، ۱۷۹-۲۰۵.

12. ضیایی بگدلی، محمدرضا (۱۳۹۵). حقوق بین‌الملل عمومی (ویرایش جدید). تهران: گنج دانش.

13. عزیزی بساطی، مجتبی؛ سکوتی، مرضیه (۱۳۹۴). واکاوی تأثیر سلاح‌های خودکار بر صلح و امنیت بین‌المللی. سیاست خارجی، ۲۹ (۳)، ۳۵-۵۶.

14. لامع، احسان، امینی نیا عاطفه و مریم افشاری (1403) مسئولیت بین المللی دولت ها در کاربرد هوش مصنوعی در جنگ افزارها با تاکید بر نقض حقوق جنگ در غزه، فصلنامه علمی سیاست خارجی سال 38، شماره 4.

15. محسنی‌جیهانی، فاطمه؛ طباطبایی، سیداحمد (۱۳۹۸). کاربرد سلاح‌های خودمختار و اصول حقوق بشردوستانه. پژوهشنامه ایرانی سیاست بین‌الملل، ۷ (۲)، ۲۶۵-۲۸۶.

16. ممتاز، جمشید؛ رنجبریان، امیرحسین (۱۳۸۴). حقوق بین‌الملل بشردوستانه: مخاصمات مسلحانه داخلی. تهران: نشر میزان.

17. ممتاز، جمشید؛ شایگان، فریده (۱۳۹۳). حقوق بین‌الملل بشردوستانه در برابر چالش‌های مخاصمات مسلحانه عصر حاضر. تهران: مؤسسه مطالعات و پژوهش‌های حقوقی شهر دانش .

18. هاشمی شاهرودی، سیدمحمدصادق؛ میرزاامرجی، مهرنوش (۱۴۰۳). مسئولیت دولت‌ها در قبال نقض حقوق بین‌المللی بشردوستانه غیرنظامیان در مخاصمات مسلحانه. مطالعات قدرت نرم، ۱۴ (۳).

1. European Commission. (2025). Implementing International Responsibility for AI in Military Practice (I2 RAMP) Project Report. CORDIS.

2. Human Rights Watch. (2025). A Hazard to Human Rights: Autonomous Weapons Systems and Digital Decision-Making.

3. International Committee of the Red Cross. (2021). ICRC Position on Autonomous Weapons Systems. Geneva: ICRC.

4. International Criminal Court. (2025). Draft Policy on Cyber-Enabled Crimes. Office of the Prosecutor.

5. Jevglevskaja, Natalia. (2026). International Law and Weapons Review: Emerging Military Technology under the Law of Armed Conflict. Cambridge University Press.

6. United Nations Group of Governmental Experts on Lethal Autonomous Weapons Systems. (2025). Rolling Text (May 2025 Version). CCW/GGE.1/2025/CRP.1.

7. United Nations. (2024). Report of the Secretary-General on Lethal Autonomous Weapons Systems. A/79/256.