۱۱۸ کشور در حکمرانی جهانی هوش مصنوعی نقشی ندارند

آی‌تی‌من- سازمان ملل متحد سال گذشته یک هیات مشورتی ۳۹ نفره برای بررسی مسائل مربوط به حکمرانی بین‌المللی هوش مصنوعی تشکیل داد. این هیات مشورتی طی روزهای اخیر گزارش نهایی خود در خصوص حکمرانی جهانی هوش مصنوعی را به همراه توصیه‌هایی برای رسیدگی به خطرات مرتبط با این فناوری و شکاف‌های موجود در حکمرانی آن با عنوان «حکمرانی هوش مصنوعی برای بشریت» ارائه کرد.

بر اساس گزارش «حکمرانی هوش مصنوعی برای بشریت»، دلایل مختلفی برای نیاز به حکمرانی جهانی هوش مصنوعی مطرح شده است.
 
طبیعت فرامرزی و تأثیر جهانی هوش مصنوعی
هوش مصنوعی به دلیل ساختار و کاربردهای چندمنظوره خود، فراتر از مرزهای ملی عمل می‌کند. به طور کلی، داده‌ها و منابع مورد نیاز برای توسعه و آموزش سیستم‌های هوش مصنوعی از سراسر جهان جمع‌آوری می‌شوند. همچنین، هوش مصنوعی به شکلی فزاینده به عنوان یک فناوری عمومی، در بسیاری از کشورها و صنایع مورد استفاده قرار می‌گیرد. این طبیعت جهانی باعث می‌شود که تصمیمات مرتبط با توسعه، استقرار و استفاده از این فناوری، اثرات گسترده‌ای فراتر از مرزهای ملی داشته باشند. از همین روی و بر اساس دیدگاه کارشناسان سازمان ملل، حکمرانی ملی و منطقه‌ای به تنهایی قادر به پاسخگویی تمام چالش‌های موجود نیست و به یک چارچوب حکمرانی جهانی نیاز است که به‌طور جامع به این موضوع بپردازد.
 
 تمرکز قدرت و ثروت در حوزه هوش مصنوعی
سرعت پیشرفت هوش مصنوعی باعث شده است که مناطق خاصی از جهان، به‌ویژه برخی کشورها و شرکت‌های بزرگ، کنترل بیشتری بر توسعه و استفاده از این فناوری داشته باشند. متخصصان بر این عقیده‌اند که این تمرکز قدرت و ثروت می‌تواند باعث افزایش نابرابری‌ها و شکاف‌های دیجیتال شود. بر اساس متن گزارش، اگر حکمرانی مناسبی بر هوش مصنوعی وجود نداشته باشد، تنها تعداد محدودی از کشورها، شرکت‌ها و افراد از منافع آن بهره‌مند می‌شوند و سایرین از این فناوری بی‌بهره می‌مانند. از همین روی، نیاز به حکمرانی جهانی احساس می‌شود تا از تقسیم عادلانه منافع هوش مصنوعی اطمینان حاصل شود و از تبدیل شدن آن به ابزاری برای افزایش نابرابری ممانعت به عمل آید.
 
فقدان کنترل و پیش‌بینی‌پذیری کامل بر خروجی‌های هوش مصنوعی
یکی از ویژگی‌های بارز هوش مصنوعی، عدم امکان درک و پیش‌بینی همه خروجی‌های آن به صورت دقیق است. پیچیدگی و خودکار بودن برخی از سیستم‌های هوش مصنوعی، باعث می‌شود که حتی توسعه‌دهندگان آن نیز قادر به کنترل کامل و پیش‌بینی آینده این سیستم‌ها نباشند. کارشناسان بر این باورند که این وضعیت خطرات زیادی به همراه دارد، به‌ویژه در شرایطی که هوش مصنوعی در حوزه‌های حساس مانند سلامت عمومی، امنیت ملی یا سیستم‌های مالی مورد استفاده قرار گیرد. بنابراین، چارچوب حکمرانی جهانی باید تضمین کند که توسعه و استفاده از سیستم‌های هوش مصنوعی تحت نظارت و کنترل دقیق هستند و مسئولیت‌پذیری در این حوزه به صورت شفاف تعیین گشته است.


 
پیامدهای ژئوپلیتیکی و ژئواقتصادی
هوش مصنوعی نه تنها بر جنبه‌های فناورانه و اقتصادی زندگی ما تأثیرگذار است، بلکه پیامدهای ژئوپلیتیکی و ژئواقتصادی گسترده‌ای نیز به همراه دارد. توسعه این فناوری قدرت و ثروت را به صورت جهانی متمرکز کرده و باعث تغییر موازنه‌های قدرت بین‌المللی شده است. با عنایت به بروز این پدیده، برای جلوگیری از تشدید رقابت‌های فناورانه و ایجاد نوعی «مسابقه تسلیحاتی هوش مصنوعی»، تدوین چارچوب حکمرانی جهانی ضروری به نظر می‌رسد. این چارچوب باید اطمینان حاصل کند که هوش مصنوعی به عنوان ابزاری برای ثبات و همکاری بین‌المللی به کار گرفته می‌شود و عاملی برای تشدید رقابت‌های اقتصادی و سیاسی نیست.
 
 خطرات ناشی از ریسک‌های هوش مصنوعی
همان‌طور که در گزارش «حکمرانی هوش مصنوعی برای بشریت» مطرح شده است، فناوری هوش مصنوعی به همراه فرصت‌هایش، ریسک‌ها و خطرات قابل‌توجهی نیز به همراه دارد. از جمله این خطرات می‌توان به مسائل مربوط به بی‌طرفی و تعصبات الگوریتمی، نظارت گسترده، استفاده نادرست از داده‌ها، تشدید نابرابری‌ها و خطرات ناشی از تسلیحات خودکار اشاره کرد. در همین راستا و با توجه به وجود تهدیدات مذکور، لازم است سیستم حکمرانی جهانی به صورت جامع به مدیریت این چالش‌ها بپردازد و چارچوب‌هایی برای تضمین استفاده‌ایمن، شفاف و عادلانه از هوش مصنوعی تدوین کند.
 
شکاف‌های حکمرانی جهانی هوش مصنوعی
بر اساس گزارش «حکمرانی هوش مصنوعی برای بشریت»، چندین شکاف و کاستی در حکمرانی جهانی هوش مصنوعی وجود دارد که سبب می‌شود این فناوری به صورت کامل و عادلانه تحت مدیریت قرار نگیرد. این شکاف‌ها به سه دسته اصلی تقسیم می‌شوند:
 
شکاف نمایندگی
یکی از بزرگ‌ترین مشکلات در حکمرانی جهانی هوش مصنوعی، عدم مشارکت و نمایندگی کافی از سوی همه کشورها و مناطق جهان است. بسیاری از کشورهای در حال توسعه و مناطق کم‌درآمد، به‌ویژه در جنوب جهانی، از گفت‌وگوهای بین‌المللی و تصمیم‌گیری‌های مرتبط با حکمرانی هوش مصنوعی کنار گذاشته شده‌اند.

نمودارهای ارائه‌شده در گزارش مذکور نشان می‌دهند که تعداد محدودی از کشورها، به‌ویژه کشورهای صنعتی و پیشرفته، در همه ابتکارات و معاهدات بین‌المللی مربوط به حکمرانی هوش مصنوعی مشارکت دارند. در مقابل، بخش بزرگی از جهان، شامل ۱۱۸ کشور هیچ نماینده‌ای در این گفت‌وگوها ندارند.
 
شکاف هماهنگی
بر اساس دیدگاه مطرح شده از سوی هیات مشورتی هوش مصنوعی سازمان ملل متحد، علاوه بر مشکل نمایندگی، فقدان هماهنگی میان نهادهای بین‌المللی و مناطق مختلف جهان نیز باعث می‌شود که رویکردی یکپارچه و هماهنگ برای حکمرانی هوش مصنوعی شکل نگیرد. در حال حاضر، صدها چارچوب، مجموعه اصول و راهنما توسط دولت‌ها، شرکت‌ها، کنسرسیوم‌ها و سازمان‌های بین‌المللی درباره حکمرانی این فناوری تدوین شده است، اما هیچ‌یک از این چارچوب‌ها به تنهایی نمی‌تواند همه مسائل و چالش‌های جهان را پوشش دهد و در نتیجه، حکمرانی جهانی همچنان تکه‌تکه و ناهمگون باقی مانده است.
 
شکاف اجرایی
بر اساس گزارش سازمان ملل، برای افزایش تأثیرگذاری حکمرانی جهانی هوش مصنوعی، لازم است که کشورها و سازمان‌های بین‌المللی به صورت واقعی و ملموس اقداماتی را برای توسعه ظرفیت‌های محلی، ارتقا دانش فنی و حمایت از کسب‌وکارهای کوچک و متوسط انجام دهند. همچنین، ایجاد سازوکارهایی برای پاسخگویی و شفافیت در استفاده از سیستم‌های هوش مصنوعی و اجرای اصول حکمرانی برای تحقق اهداف تعیین شده در این راستا، بسیار ضروری و حیاتی است.

این گزارش همچنین تأکید دارد که برای تقویت زمینه‌های مشترک، نیاز به گفت‌وگوهای سیاستی بین دولت‌ها و دیگر ذی‌نفعان وجود دارد تا استانداردهای جهانی و هماهنگی‌های قانونی در زمینه هوش مصنوعی به تدریج شکل بگیرند. این گفت‌وگوها می‌توانند به همرسانی بهترین روش‌ها و تجربیات میان ذی‌نفعان کمک نموده و از ایجاد اختلافات بین‌المللی جلوگیری کنند. همچنین، ایجاد استانداردهای مشترک در حوزه‌های کلیدی مانند ایمنی و حقوق بشر، از طریق این همکاری‌ها امکان‌پذیر خواهند بود.
 
اقدامات پیشنهادی
کارشناسان سازمان ملل متحد در متن گزارش مذکور همچنین به ارائه راهکارها و برخی اقدامات پیشنهادی می‌پردازند.

نخستین اقدام، ایجاد چارچوب‌های شفافیت و پاسخگویی است. توسعه‌دهندگان و کاربران هوش مصنوعی باید در قبال استقرار و به‌کارگیری این فناوری مسئولیت‌پذیر باشند. همچنین سیستم‌های توسعه یافته باید شفافیت لازم را داشته باشند تا امکان بررسی و ارزیابی تصمیمات هوش مصنوعی توسط نهادهای نظارتی فراهم شود. علاوه بر این، ایجاد استانداردهای جهانی برای توسعه و استفاده از هوش مصنوعی سازگار با اصول اخلاقی و حقوق بشر نیز از دیگر پیشنهادات کلیدی مطرح شده رد این گزارش محسوب می‌شود.

یکی دیگر از پیشنهادات مهم مطرح، توسعه نهادهای بین‌المللی برای نظارت بر استفاده از هوش مصنوعی و تنظیم مقررات در سطح جهانی است. همچنین، ایجاد شبکه‌های آموزشی و فراهم کردن دسترسی برابر به منابع داده و توان محاسباتی برای کشورهای در حال توسعه نیز در زمره پیشنهادات گزارش هیات مشورتی سازمان ملل است.

تدوین قوانین بین‌المللی برای منع استفاده از هوش مصنوعی در تسلیحات خودکار و حوزه‌های نظامی‌نیز یکی دیگر از پیشنهادات کلیدی گزارش مذکور است.