استفاده چین از هوش مصنوعی برای سانسور محتوای آنلاین

 
آی‌تی‌من- قواعد و مقررات کنترل محتوا که روز جمعه گذشته روی وب‌سایت مدیریت فضای مجازی چین منتشر شده، تولیدکنندگان محتوای آنلاین، چه افراد مستقل و چه اپراتورهای اپ‌ها و سایر پلتفرم‌ها را دربر می‌گیرد. اما مهم‌ترین نکته در این مقررات جدید، تاکید بر استفاده از الگوریتم‌های هوش مصنوعی به منظور سانسور محتواست.
 
این مقررات که از ماه مارس آینده اجرایی می‌شود، آخرین نمونه از فشارهای دولت چین به شرکت‌های فناوری است.
 
این مقررات تولیدکنندگان محتوا را به تولید و انتشار محتواهای مرتبط با تئوری‌های سوسیالیستی و محتواهایی که به افزایش نفوذ بین‌المللی فرهنگ چینی می‌انجامد، تشویق می‌کند. در عین حال ایجاد و انتشار محتواهای غیرقانونی که اسرار ملی را فاش کند یا به سیاست‌های مذهبی ملی آسیب بزند، ممنوع اعلام شده است.
 
همچنین به تولیدکنندگان محتوا تکلیف شده که «محتوای نامناسب» را محدود کنند. این محتواهای نامناسب شامل مواردی مانند عناوین اغراق آمیز یا محتوایی می‌شود که کودکان را به اعمال غیرایمن تشویق کند.
 
اپراتورهای پلتفرم‌ها بر طبق این مقررات باید از افراد سانسورچی و همچنین الگوریتم‌های هوشمند نظارت بر محتوا به منظور حذف محتوای نامناسب یا غیرقانونی از روی پلتفرم خود استفاده کنند.
 
همان طور که گفته شد، نکته مهم در این مقررات، اشاره و تاکید بر الگوریتم‌ها و به رسمیت شناختن نقش هوش مصنوعی در تعیین میزان دسترسی کاربران به محتواهای مختلف است.
 
این مقررات از پلتفرم‌ها خواسته که با استفاده از الگوریتم‌های هوشمند، محتواهای سودمند را شناسایی کنند و به آنها اولویت بدهند.
 
ژو وی، استادیار دانشگاه علوم سیاسی و حقوق چین و نایب رییس مرکز تحقیقات حقوق ارتباطات این دانشگاه می‌گوید: نکته مهم و برجسته این مقررات جدید، این است که نشان می‌دهد، عصر اعمال الگوریتمی مقررات رسما فرا رسیده است.
 
ژو وی می‌افزاید: بسیاری معتقدند که الگوریتم‌ها به عنوان یکی از زیرمجموعه‌های فناوری، بی‌طرف هستند؛ اما الگوریتم‌ها نیز می‌توانند دارای ارزش‌هایی باشند و مهم است که این ارزش‌ها، درست تعیین شود. در عین حال، الگوریتم‌ها باید تابع قوانین باشند.
 
در سال‌های اخیر، با افزایش حضور آنلاین مردم چین، مقامات پکن نیز مقررات گذاری را در این زمینه تشدید کرده‌اند و تاکنون چندین دستورالعمل و مقررات در این زمینه منتشر شده است. ضمن اینکه دولت پکن در سال 2017، قانون امنیت سایبری را نیز به تصویب رسانده است.
 
در ماه ژانویه گذشته، یک نهاد دولتی در این کشور، دستورالعمل برای انتشار محتوا در پلتفرم‌های اشتراک‌گذاری ویدیوهای کوتاه صادر کرد. دستورالعمل مذکور از پلتفرم‌ها می‌خواست که تمامی محتوا را پیش از انتشار، بررسی و تایید کنند. این دستورالعمل، نزدیک به یکصد دسته از محتواهای نامناسب را نیز مشخص کرده بود که ویدیوهایی با موضوعات مشخص شده را ممنوع می‌کرد.
 
در ماه نوامبر نیز دولت چین، مجموعه قوانینی منتشر کرد که بر اساس آن، استفاده از یادگیری عمیق برای ساخت ویدیوهای جعل عمیق در پلتفرم‌های ویدیویی ممنوع اعلام شده بود.