کارکنان دولت انگلیس غیرمسوولانه از هوش مصنوعی استفاده می‌کنند

آی‌تی‌من- یافته‌های این تحقیقات، حاکی از این استفاده کنترل نشده از فناوری‌های پیشرفته در سراسر دولت انگلیس است.

بر اساس تحقیقات گاردین، کارمندان حداقل در هشت بخش از دولت انگلیس و تعداد انگشت‌شماری از نیروهای پلیس از هوش مصنوعی در حوزه‌های مختلف؛ به ویژه هنگام تصمیم‌گیری در زمینه رفاه، مهاجرت و عدالت کیفری استفاده می‌کنند.

گاردین همچنین شواهدی را کشف کرده که نشان می‌دهد برخی از ابزارهای مورد استفاده، پتانسیل تولید نتایج تبعیض‌آمیز را دارند. برای مثال، یک نماینده پارلمان مدعی است الگوریتمی که از سوی وزارت کار و بازنشستگی استفاده می‌شود، به اشتباه منجر به حذف مزایای ده‌ها نفر شده است. ابزار بازشناسی چهره مورد استفاده پلیس لندن نیز در تشخیص چهره سیاه‌پوست‌ها بیش از سفیدپوستان دچار خطاست.

مورد دیگر مربوط به الگوریتم مورد استفاده وزارت کشور برای کشف ازدواج‌های ساختگی است که در مورد افراد از ملیت‌های خاص، تبعیض قایل می‌شود.
استفاده از هوش مصنوعی در بخش دولتی پیش از این نیز بحث‌برانگیز شده بود. چندی پیش در هلند، استفاده مقامات مالیاتی از این فناوری برای کشف تقلب، موجب شد که ده‌ها هزار خانوار به اشتباه در مجموع 3.7 میلیون یورو جریمه شوند.

حالا کارشناسان نگران تکرار این رسوایی در بریتانیا هستند و می‌گویند مقامات انگلیسی از الگوریتم‌هایی استفاده می‌کنند که درک صحیحی از آنها ندارند و نمی‌دانند که تصمیم‌گیری‌ها با استفاده از این فناوری چه تاثیری روی زندگی مردم می‌گذارد.

این در حالی است که سران کشورها قرار است هفته آینده به دعوت ریشی سوناک، نخست‌وزیر بریتانیا، در اجلاس بین‌المللی در مورد ایمنی هوش مصنوعی گرد هم بیایند. دولت بریتانیا امیدوار است که این اجلاس، به مقررات‌گذاری برای توسعه هوش مصنوعی و جلوگیری از تهدیدات بالقوه الگوریتم‌های هوشمند کمک کند.