سوءاستفاده کودکان بریتانیایی از هوش مصنوعی مولد برای تولید تصاویر ناشایست از همکلاسی‌ها

آی‌تی‌من- مرکز اینترنت ایمن بریتانیا (UKSIC) خواستار «اقدام فوری» برای کمک به کودکان برای درک خطرات مرتبط با تصاویر هوش مصنوعی شده است. به گفته این مرکز، تصاویر مذکور از نظر قانونی مشمول مواد آزار جنسی کودکان می‌شوند.

این سازمان اعلام کرد اگرچه کودکان ممکن است از روی کنجکاوی این تصاویر را تولید کنند، اما چنین تصاویری ممکن است به سرعت از کنترل خارج شده و در فضای آنلاین منتشر شوند و برای سوء استفاده یا باج‌گیری از کودکان مورد سوءاستفاده قرار بگیرند.

دیوید هاردی، مدیرUKSIC گفت: تصاویر هوش مصنوعی بسیار واقع‌نما و با عکس‌های حرفه‌ای قابل مقایسه هستند.

وی افزود: پتانسیل سوء استفاده از این فناوری وحشتناک است. این یک احتمال نیست و اکنون شاهد موارد سوءاستفاده هستیم.

هاردی با بیان اینکه هم‌اکنون، هوش مصنوعی کنترل نشده و فاقد مقررات، امنیت کودکان را به خطر انداخته است، گفت: باید اقداماتی برای جلوگیری از سوءاستفاده از این فناوری در نظر گرفته شود.

بنا به اعلام مرکز اینترنت ایمن بریتانیا، تعدادی گزارش از مدارس دریافت کرده و از آنها خواسته است که از مسدودسازی موثر محتوای غیرقانونی با استفاده از سیستم‌های نظارتی اطمینان حاصل کنند.

هاردی گفت: اگرچه تعداد پرونده‌ها در حال حاضر اندک است، اما باید پیش از اینکه مشکل بزرگ شود، اقدامات لازم را انجام دهیم.