هشدار FBI درباره سواستفاده از هوش مصنوعی

آی‌تی‌من- یک مقام ارشد که خواست نامش فاش نشود، طی یک کنفرانس تلفنی با خبرنگاران می‌گوید: دو خطر اصلی که این اداره می‌بیند، «عدم تراز مدل» یا چرخش نرم افزار هوش مصنوعی به سمت نتایج نامطلوب در طول توسعه یا استقرار، و «سوء استفاده مستقیم از هوش مصنوعی» برای کمک به سایر عملیات است.

این مقام می‌گوید که عوامل خارجی به طور فزاینده ای شرکت‌ها، دانشگاه‌ها و مراکز تحقیقاتی دولتی ایالات متحده برای پیشرفت‌های هوش مصنوعی، مانند الگوریتم‌ها، تخصص داده‌ها، زیرساخت‌های محاسباتی و حتی مردم را هدف قرار داده و داده‌های مربوط به آنها را جمع آوری می‌کنند.

به گفته این مقام، استعداد، یکی از مطلوب‌ترین جنبه‌ها در زنجیره تامین هوش مصنوعی است که دشمنان به آن نیاز دارند و ایالات متحده استاندارد طلایی را در سطح جهانی برای کیفیت توسعه تحقیقات تعیین می‌کند.

این هشدار تنها چند روز پس از آن صادر شده است که کریستوفر رای، رئیس اف بی آی، زنگ خطر را در مورد استفاده چین از این فناوری به صدا درآورد و گفت: متأسفانه هوش مصنوعی یک فناوری کاملاً مناسب است تا به چین اجازه دهد از سوء رفتار گذشته و فعلی خود سود ببرد.

او در نشست آتلانتا اف بی آی در اجلاس تهدید سایبری گفته است: ساخت مدل‌ها به نوآوری‌های پیشرفته و داده‌های زیادی برای آموزش آنها نیاز دارد. مقامات ایالات متحده می‌گویند که رژیم چین، دارایی‌های معنوی را می‌دزدد و مقادیر زیادی از داده‌های خارجی را از راه‌های غیرقانونی جمع آوری می‌کند.

علاوه بر تهدیدهای دولتی، مقامات آمریکایی و محققان امنیت سایبری می‌گویند که مجرمان از هوش مصنوعی به عنوان یک نیروی چند برابر کننده برای تولید کدهای مخرب و ایجاد ایمیل‌های فیشینگ متقاعدکننده، و همچنین توسعه بدافزارهای پیشرفته، کد مهندسی معکوس و ایجاد «محتوای مصنوعی» به عنوان دیپ فیک، استفاده می‌کنند.

این مقام همچنین گفته است که این دفتر هیچ پرونده مرتبط با هوش مصنوعی را به دادگاه نیاورده است و از قرار دادن یک جنبه از خطرات ناشی از فناوری، در جایگاهی بالاتر از دیگری، خودداری کرده است.