برای درک دقیق این پیچیدگی حقوقی، در جنگ امروز که در آن ایالاتمتحده و رژیم صهیونیستی پهپادهای کاملاً خودمختار خود را برای عملیات در خاک کشورمان ارسال میکنند. این سیستمها با اتکا به هوش مصنوعی و بدون مداخله مستقیم انسانی، اهداف را شناسایی و منهدم میکنند. چالش اصلی در این سناریو، انطباق عملکرد ماشینها با قواعد آمره حقوق جنگ است.
بر اساس ماده ۴۸ و بند ۴ ماده ۵۱ پروتکل الحاقی اول (۱۹۷۷) به کنوانسیونهای ژنو، طرفین متخاصم ملزم به رعایت دقیق «اصل تفکیک» هستند؛ قاعدهای عرفی که حملات کورکورانه را مطلقاً ممنوع میکند. با این وجود، درک «ساختار» مخاصمه برای هوش مصنوعی بهشدت محدود است.
ناتوانی ذاتی الگوریتمها در تفکیک میان نظامیان و غیرنظامیان کشورمان و همچنین پردازش مفهوم سیال «مشارکت مستقیم در مخاصمات»، منجر به نقض سیستماتیک اصل تفکیک شده و این حملات را از منظر حقوقی به «حملات کورکورانه» بدل میسازد.
در صورت بروز فاجعه انسانی (مانند انهدام یک کاروان غیرنظامی متعلق به کشورمان توسط پهپادهای متخاصم) موضوع در صلاحیت دیوان کیفری بینالمللی قرار میگیرد. بند ۲(b) از ماده ۸ اساسنامه رم، هدایت عمدی حملات علیه غیرنظامیان را «جنایت جنگی» میداند.
با این حال، گره کور حقوقی در ماده ۳۰ اساسنامه رم (عنصر روانی) نهفته است. تحقق جنایت جنگی نیازمند «قصد و آگاهی» است، درحالیکه نرمافزار فاقد اراده مستقل است. از آنجا که مسئولیت کیفری مختص اشخاص حقیقی است، فرماندهان نظامی ممکن است با استناد به «اثر جعبه سیاه» مدعی فقدان قصد مجرمانه شوند.
در این نقطه، حقوقدانان به دکترین «مسئولیت فرمانده» (ماده ۲۸ اساسنامه رم) رجوع میکنند. اگر فرمانده نظامی کشورهای متخاصم میدانسته (یا باید میدانسته) که سیستم هوش مصنوعی دارای نرخ خطای بالایی در تفکیک اهداف است، استقرار چنین سلاحی میتواند بهعنوان «بیمبالاتی کیفری» یا «قصد احتمالی» تفسیر شود. در این حالت، فرماندهان به دلیل نقض فاحش مقررات جنگی، مرتکب جنایت جنگی شناخته میشوند.
در مواجهه با این خلأ حقوقی، اجماع رو به رشدی در چارچوب کنوانسیون تسلیحات متعارف خاص وجود دارد که استفاده از سیستمهای فاقد «کنترل معنادار انسانی» ذاتاً غیرقانونی است. افزون بر این، در غیاب یک معاهده خاصِ منعکننده، «شرط مارتنس» بهعنوان یک تور ایمنی عمل میکند. بر این اساس، غیرنظامیان و جنگجویان هر دو کشور تحت حمایت «عرف تثبیتشده»، «اصول انسانیت» و «الزامات وجدان عمومی» باقی میمانند. تفویض تصمیمگیریِ حیات و ممات انسانها به الگوریتمها، نقض فاحش اصول انسانیت و وجدان عمومی تلقی میگردد.
* علیرضا رستمزاده رنانی، مدیر دفتر مطالعات حقوق و هوش مصنوعی مرکز وکلا، کارشناسان رسمی و مشاوران خانواده قوهقضائیه
کلمات کلیدی :
جنایت جنگیحملات پهپادکنوانسیونهای ژنومسئولیت فرماندهبیمبالاتی کیفری