ساخت جنگ‌افزارهای خودکار هوشمند و روبات‌های قاتل باید ممنوع شود

آی‌تی‌من- لورا نولان که سال گذشته از سوی گوگل برای کار روی یک پروژه مربوط به فناوری‌های نظامی و پهپاد‌های ارتش آمریکا اعزام شده و در اعتراض، از کار استعفا کرده بود، هشدار داد که تمامی ابزارها و سلاح‌های کشتار جمعی که به دست انسان کنترل نمی‌شوند، باید ممنوع اعلام شوند.

به گفته وی، با روبات‌های قاتلی که به دست انسان و از راه دور هدایت نمی‌شوند، مشابه معاهده منع گسترش سلاح‌های شیمیایی  رفتار شود و ساخت این نوع اسلحه باید غیرقانونی اعلام شود.

هواپیماهای بدون سرنشین یا پهپادهای جنگی، معمولا به دست تیم‌هایی از نیروهای نظامی کنترل می‌شوند و با انجام هزاران مایل پرواز، با کنترل انسانی به عملیات نظامی اقدام می‌کنند ولی نولان می‌گوید که روبات‌های قاتل، این ظرفیت را دارند که دست به اقداماتی بزنند که برای آن برنامه ریزی نشده‌اند.

گوگل سال گذشته نولان را به تیمی افزوده بود که پروژه توسعه توانایی پهپادهای ارتش آمریکا را بهبود می‌بخشید. البته او در مورد اینکه گوگل در توسعه سیستم‌های نظامی و سلاح‌های خودکار دخالت دارد، صحبتی نکرده است.

ماه گذشته متخصصان دولتی در نشستی در سازمان ملل به بررسی سلاح‌های خودکار پرداختند و گوگل را به دست داشتن در توسعه این سلاح‌ها با استفاده از هوش مصنوعی متهم کردند.

نولان که به کارزاری با نام «روبات‌های قاتل را متوقف کنید» پیوسته و دیپلمات‌های سازمان ملل را در جلساتی در نیویورک و ژنو با خطرات سلاح‌های خودکار آشنا کرده است، می‌گوید: به نسبت اینکه چه تعداد از این نوع سلاح‌ها در آن واحد در یک منطقه مشخص به کار گرفته شود؛ امکان وقوع یک فاجعه افزایش می‌یابد. احتمال کشتارهای غیرقانونی و ضد مقررات جنگی از سوی این سلاح‌ها می‌رود، به ویژه اگر صدها هزار ماشین از این نوع به یک منطقه جنگی فرستاده شوند.

وی می‌افزاید: این سلاح‌های هوشمند، ممکن است به شیوه‌ای غیرقابل پیش‌بینی رفتار کنند که این موضوع می‌تواند موجب بروز حوادث عظیمی بشوند. به همین دلیل، هر سیستم نظامی پیشرفته‌ای باید به طور کامل تحت کنترل نیروهای انسانی باشد؛ در غیر این صورت، از آنجا که این سلاح‌ها کاملا غیرقابل پیش‌بینی و خطرناکند، باید آنها را ممنوع اعلام کرد.

گوگل، لورل نولان را که فارغ‌التحصیل علوم کامپیوتری از کالج ترینیتی دوبلین است در سال 2013 یه استخدام درآورد. نولان یکی از مهندسان برجسته این شرکت در ایرلند بود و گوگل در سال 2017 او را به کار در پروژه Maven گمارد.

Maven پروژه‌ای در پنتاگون است که هدف آن، استفاده از یادگیری ماشین و هوش مصنوعی به منظور تشخیص افراد و اشیا در تصاویری است که پهپادها ضبط می‌کنند.

نولان می‌گوید: من درخصوص نقش و مسوولیتم در این پروژه نگرانی‌های شدید اخلاقی داشتم. این پروژه به وزارت دفاع آمریکا کمک می‌کرد که فناوری بازشناسی ویدیو پهپادهایش را با سرعت درخور توجهی بهبود ببخشد.

در این برنامه نظامی، به جای استفاده از تعداد زیادی از اپراتورها برای بازبینی ساعت‌ها ویدویی ثبت شده توسط پهپادها به دنبال اهداف نظامی دشمن، از نولان و سایر اعضای تیم خواسته شده بود که یک سیستم هوش مصنوعی ابداع کنند که قادر به تشخیص افراد و اشیا با سرعت بالا باشد.

در ماه مارس گذشته پس از اینکه بیش از سه هزار نفر از کارکنان گوگل، نامه‌ای را در اعتراض به نقش شرکت در این پروژه اعتراض کردند، وزارت دفاع ایالات متحده به گوگل اجازه داد تا اجرای این پروژه را به تعویق بیندازد.

نولان می‌گوید: مسوولیت من در گوگل اطمینان از عملکرد درست سیستم‌ها و زیرساخت‌ها بود، در پروژه Maven نیز همین مسوولیت را داشتم. اگرچه من مستقیما درگیر تولید نرم‌افزار بازشناسی ویدیو نبودم، اما به هر حال حس می‌کردم در این زنجیره کشتار قرار گرفته‌ام؛ زنجیره‌ای که ممکن بود به هدف‌گیری و کشتار افراد بیشتری از سوی ارتش آمریکا در مناطقی مانند افغانستان بشود.

هرچند که نولان بعد از ماجرای پروژه Maven استعفا کرد؛ اما پیش بینی می‌کند که سلاح‌های خودکاری که در حال توسعه هستند، خطری بسیار بیشتر از پهپادهای کنترل از دور متوجه جان انسان‌ها خواهند کرد.

وی توضیح می‌دهد که نیروهای بیرونی، از سیستم‌های تغییر آب و هوا گرفته تا ماشین‌هایی که قادر به درک رفتار پیچیده انسانی نیستند، ممکن است روبات‌های قاتل را از مسیر تعیین شده خارج کنند که این مساله، ممکن است تبعات و مخاطرات جانی به همراه داشته باشد.

نولان می‌گوید: سناریویی را در نظر بگیرید که یک سلاح خودکار که به ماموریت فرستاده شده، در حین ماموریت با یک سیگنال رادار پیش‌بینی نشده مواجه شود، با شرایط آب و هوایی روبه‌رو شود که در برنامه‌اش پیش‌بینی نشده یا اینکه به تعدادی افراد مسلح بربخورد و آنها را نیروهای دشمن تشخیص بدهد؛ در حالی که آنها فقط شکارچیان مجاز باشند. این سلاح‌های خودکار قادر به تمیز دادن این وضعیت‌ها نیستند و قوه درک و حس مشترک انسانی هم ندارند.

به گفته وی، موضوع ترسناک دیگر این است که این سیستم‌های جنگی خودکار را باید در میدان واقعی نبرد آزمایش کرد. کسی چه می‌داند؛ شاید همین الان هم نیروهای روسیه در سوریه از چنین اسلحه‌ای استفاده می‌کنند. آنچه ما می‌دانیم این است که روسیه در سازمان ملل با هرگونه معاهده‌ای برای ممنوع‌سازی سلاح‌های هوشمند و خودکار مخالفت کرده است.

نولان می‌گوید: سیستم‌هایی که به صورت خودکار درباره اطراف‌شان تصمیم می‌گیرند، باید قابلیت عمل بلادرنگ داشته باشند. از آن گذشته، چگونه می‌خواهید سیستمی را که فقط به یک نرم‌افزار متکی است، آموزش بدهید که رفتارهای زیرکانه انسانی را تشخیص بدهد یا بین نیروی نظامی یا شکارچی تفاوت قایل شود؟ چنین ماشین‌های کشتاری که بدون کنترل انسانی عمل می‌کنند، چگونه بین یک نیروی نظامی دشمن 18 ساله با یک فرد غیرنظامی 18 ساله که مشغول شکار خرگوش است، فرق خواهند گذاشت؟

نولان می‌گوید: تبدیل پهپادهای نظامی مثلا به سلاح‌های خودکار بدون نیاز به هدایت انسان، فقط یک مساله نرم‌افزاری و خیلی ساده می‌تواند به انجام برسد.

وی با بیان اینکه از دولت ایرلند خواسته که نقش فعال‌تری در حمایت از ممنوعیت ساخت سلاح‌های خودکار بازی کند، می‌افزاید: من نمی‌گویم که سیستم‌های موشکی هدایت شونده یا سیستم‌های دفاع ضد موشکی را ممنوع کنند. این سیستم‌ها به هرحال تحت کنترل کسی هستند که مسوولیت دارد. اما این سلاح‌های خودکار، علاوه بر اینکه یک قدم روبه‌جلو در حوزه فناوری هستند، نگرانی‌های اخلاقی هم با خود به همراه می‌آورند. اکنون افراد کمی در این زمینه صحبت می‌کنند؛ اما اگر مراقب و حساس نباشیم، یکی از این روبات‌های قاتل می‌تواند روزی موجب آغاز جنگی شود، یک مرکز هسته‌ای را نابود کند یا به کشتار و ضایعات و خسارات بسیاری بینجامد.

گفتنی است که هم اکنون تعدادی از این سلاح‌های خودکار در قدرت‌های نظامی بزرگ در دست ساخت و توسعه است.  چند تا از این سلاح‌ها عبارتند از:

1- قایق جنگی AN-2 Anaconda متعلق به نیروی دریایی ایالات متحده. این قایق به عنوان یک ابزار جنگی کاملا خودکار و مجهز به قابلیت‌های هوش مصنوعی توسعه داده شده و می‌تواند مدت طولانی  و بدون دخالت انسان در منطقه گشت بزند.

2- تانک روسی T-14 Armata که قرار است کاملا خودکار و بدون دخالت انسان عمل کند. این تانک به نوعی طراحی شده که مستقل از نیروهای نظامی سوار بر تانک، به تهاجم‌های نظامی واکنش نشان بدهد.

3- پنتاگون ناوجنگی خودکار Sea Hunter را به عنوان یک جنگ‌افزار روباتیک معرفی کرده است. نمونه اولیه این ناو 40 متری ساخته شده و می‌تواند بدون نیاز به هدایت نیروهای نظامی تا سه ماه در اقیانوس به گشت‌زنی بپردازد.