تلاش یونیسف و چین در جهت تدوین اصول هوش مصنوعی برای کودکان

آی‌تی‌من-  الگوریتم‌ها می‌توانند مسیر زندگی کودکان را تغییر دهند. بچه‌های امروز، به طور مداوم با ابزارهایی مانند دستیارهای صوتی هوشمند در تعاملند. این دستگاه‌ها صدای آنان را ضبط می‌کنند و روی نحوه سخن‌گفتن و توانایی‌های اجتماعی آنان تاثیر می‌گذارند.

الگوریتم‌ها هستند که ویدیوهای تیک‌تاک و یوتیوب را با استفاده از سیستم‌های پیشنهاد، به کودکان نمایش می‌دهند و به این ترتیب، نگاه آنها را به جهان اطراف‌شان شکل می‌دهند.

الگوریتم‌ها همچنین به طور فزاینده‌ای به منظور تعیین شیوه آموزش، تشخیص دریافت خدمات بهداشتی و سلامتی و حتی بررسی میزان اهلیت والدین برای نگهداری از کودکان به کار گرفته می‌شوند که گاهی این استفاده روز‌افزون، نتایج و آثار مخربی هم دارد. برای مثال در همین ترم گذشته، الگوریتم‌هایی که به دلیل همه‌گیری کرونا، به جای آزمون‌های استاندارد دانشگاه نیویورک مورد استفاده قرار گرفته بود، عملکرد درسی دانش‌آموزان را غیر دقیق برآورد کرد و همین اشتباه موجب شد که هزاران دانش‌آموز، پذیرش دانشگاهی خود را از دست بدهند.

به بیان دیگر، وقتی درباره استفاده از هوش مصنوعی صبحت می‌کنیم، کودکان بیش‌ترین تاثیرپذیری را خواهند داشت و به همین دلیل، بیش از دیگران نیز در معرض مخاطرات احتمالی هستند. 

استیو وسلو (Steve Vosloo) متخصص سیاست‌گذاری ارتباطات دیجیتال در صندوق کودکان سازمان ملل متحد (یونیسف) می‌گوید: کودکان از نظر هوشی، حسی و جسمی در مرحله رشد هستند و به همین دلیل بسیار قابلیت شکل‌گیری و تاثیرپذیری دارند.

وسلو مدیر پروژه‌ای دریونیسف به نام «هوش مصنوعی  برای کودکان» است که هدف آن، تدوین رهنمودهای پیشنهادی است که به دولت‌ها و شرکت‌ها در تعیین سیاست‌های هوش مصنوعی به منظور تطابق با نیازهای کودکان، کمک کند.

چهارشنبه هفته پیش، پیش‌نویس 9 رهنمود جدید این پروژه، در نتیجه چندین جلسه مشورتی با نهادهای سیاست‌گذار، محققان رشد کودک، متخصصان هوش مصنوعی و کودکان از سراسر جهان منتشر شد. در تدوین این رهنمودها، کنوانسیون حقوق کودک سازمان ملل که در سال 1989 تصویب شد نیز مورد توجه بوده است.

این رهنمودها قرار نیست دوباره مجموعه‌ای از اصول برای هوش مصنوعی  باشد که هم‌اکنون  نیز تعدادی از این اصول با شباهت‌های زیاد وجود دارد.  در ژانویه امسال، یک بررسی در مرکز برکمن کلاین دانشگاه‌ هاروارد روی 36 سند از مهم‌ترین اسناد ملی و شرکتی درباره استراتژی‌های هوش مصنوعی نشان داد که هست موضوع اصلی در میان آنها وجود دارد که شامل مواردی همچون حریم خصوصی، امنیت، انصاف و توضیح پذیری است.

رهنمودهای یونیسف، می‌خواهد تکمیل کننده این موضوعات بوده و آنها را بر اساس نیازهای کودکان، تنظیم کند. برای مثال، این رهنمودها بیان می‌دارد که سیستم‌های هوش مصنوعی نه تنها توضیح‌پذیر، که باید برای کودکان توضیح‌پذیر باشند. این سیستم‌ها همچنین باید نیازهای رشد یگانه کودکان را در نظر بگیرند.

وسلو می‌گوید: کودکان، علاوه بر حقوقی که برای بزرگسالان تعریف می‌شود، حقوق دیگری نیز دارند و گذشته از این، حدود یک سوم کاربران آنلاین نیز کودکان هستند و ما درباره یک گروه اقلیت صحبت نمی‌کنیم.

هدف از تدوین این رهنمودها، علاوه بر جلوگیری از آسیب‌های هوش مصنوعی، تشویق توسعه سیستم‌های هوش مصنوعی است که بتوانند رشد و سلامت روحی و جسمی کودکان را نیز بهبود ببخشند. برای مثال، ابزارهای یادگیری مبتنی بر هوش مصنوعی می‌توانند به توسعه مهارت‌های تفکر انتقادی و حل مساله کودکان کمک کنند. چنین ابزارهایی، البته اگر به درستی توسعه بیابند، می‌توانند برای کودکان دارای اختلال یادگیری نیز مفید واقع شوند.

دستیارهای هوش هیجانی هوش مصنوعی (Emotional AI assistants) اگرچه به نسبت پدیده‌های جدیدی هستند، اما می‌توانند به ارایه حمایت‌های لازم سلامت روانی بپردازند و شواهد نشان می‌دهد که استفاده از آنها به بهبود مهارت‌های اجتماعی کودکان درخودمانده منجر شده است.

مثال دیگر، فناوری بازشناسی چهره است که در صورت استفاده با لحاظ محدودیت‌های ویژه، می‌تواند به شناسایی کودکانی که ربوده یا قاچاق شده‌اند، کمک کند.

از سوی دیگر، کودکان باید درمورد هوش مصنوعی آزموش ببینند و به مشارکت در توسعه آن، تشویق شوند. به گفته وسلو، مساله فقط محافظت از آنان نیست؛ بلکه توانمندسازی آنان مورد نظر است و اینکه ابزارها و کمک لازم را در اختیارشان بگذاریم تا آینده خود را شکل بدهند.

یونیسف اما تنها نهادی نیست که به این مساله می‌اندیشد. یک روز پیش از اینکه پیش‌نویس رهنمودهای یونیسف منتشر شود، آکادمی هوش مصنوعی پکن (BAAI) نیز که زیر نظر وزارت علوم و فناوری چین و شهرداری پکن فعالیت می‌کند، مجموعه‌ای از اصول هوش مصنوعی برای کودکان را منتشر کرد.

انتشار این اصول، یک سال پس از آن صورت می‌گیرد که آکادمی BAAI، اصول پکن برای هوش مصنوعی را نیز منتشر کرد؛ اصولی که به عنوان رهنمودهای ارزشی برای توسعه ملی هوش مصنوعی چین شناخته شده است.

یی زنگ (Yi Zeng)، مدیر مرکز تحقیقات اخلاق هوش مصنوعی و توسعه پایدار در BAAI که تهیه این اصول نیز زیر نظر او انجام شده است، می‌گوید: اصول جدید که به طور ویژه برای کودکان تهیه شده، قرار است، اجرای کامل آن اصول کلی باشد.

اصول تدوین شده چینی، به رهنمودهای یونیسف مشابهت زیادی دارد و به مواردی همچون حریم خصوصی، انصاف و توضیح پذیری و همچنین سلامت کودکان نیز پرداخته است؛ البته برخی از جزییات آن، متناسب با دغدغه‌های خاص چین نگاشته شده است. برای مثال رهنمودی که برای بهبود سلامت جسمی کودکان تنظیم شده، شامل استفاده از هوش مصنوعی برای کمک به مقابله با آلودگی‌های زیست محیطی هم می‌شود.

این دو سند اگرچه رسما به هم مرتبط نیستند؛ اما هم زمانی انتشار آنها تصادفی نیست.

پس از آنکه در چندسال اخیر با موجی از تدوین اصول هوش مصنوعی بودیم؛ هر دو این نهادها می‌گویند که تدوین اصولی متناسب با نیازهای کودکان، قدم منطقی بعدی بوده  است.

به گفته یی زنگ، اگر درباره گروه‌های نادیده گرفته شده صحبت کنیم، کودکان مهم‌ترین آنها هستند.
به همین دلیل است که ما باید توجه ویژه‌ای به این گروه از افراد بکنیم.

دو گروه تدوین‌کنندگان اصول و رهنمودهای مذکور، با یکدیگر نیز جلساتی داشته‌اند. برای مثال وقتی یونیسف یک کارگاه مشورتی در شرق آسیا برگزار کرد، یی زنگ نیز به عنوان سخنران در این کارگاه مشارکت کرد.

حالا یونیسف قصد دارد که مجموعه‌ای از برنامه‌های پایلوت را با همکاری کشورهای مختلف اجرا کند تا میزان عملی بودن و تاثیرگذاری رهنمودهای تدوین شده را در محیط‌های مختلف بسنجد.

آکادمی BAAI نیز یک گروه کاری با نمایندگانی از برخی شرکت‌های بزرگ در زمینه هوش مصنوعی مانند TAL، شیائومی، شرکت دید کامپیوتری Megvii و شرکت اینترنتی بایدو تشکیل داده است. BAAI امیدوار است که این شرکت‌ها، اصول مذکور را محصولات خود به کار بگیرند و سایر شرکت‌ها و سازمان‌ها را نیز به همین کار ترغیب کنند.

وسلو و زنگ هر دو امیدوارند که این رهنمودها، آگاهی عمومی درباره مخاطرات هوش مصنوعی برای کودکان را افزایش دهد.

وسلو می‌گوید: می‌دانیم که این حوزه، برای بسیاری از دولت‌ها و شرکت‌ها بسیار جدید است. بنابراین اگر در طول زمان نمونه‌های بیشتری از کودکان به برنامه‌های هوش مصنوعی یا چرخه‌های سیاست‌گذاری توسعه وارد شوند، میزان توجه درباره نحوه جمع‌آوری و تحلیل داده‌های آنان به وجود می‌آید. اگر هوش مصنوعی برای کودکان یا والدین آنان توضیح‌پذیرتر شود، این برای ما پیروزی محسوب می‌شود.

 Bottom of Form