ذره‌بین مقامات آمریکایی روی غول‌های فناوری
کارکنان شرکت‌های هوش مصنوعی خواستار حمایت از افشاگران شدند
تاریخ انتشار
شنبه ۱۹ خرداد ۱۴۰۳ ساعت ۱۱:۴۷
آی‌تی‌من- کمیسیون تجارت فدرال آمریکا (FTC) در حال بررسی قرارداد اخیر شرکت مایکروسافت با استارت‌آپ هوش مصنوعی Inflection AI است و بررسی‌های ضد انحصاری آمریکا به ارزیابی دقیق صنعت داغ هوش مصنوعی می‌پردازند.
دو منبع آگاه به سی‌ان‌ان گفتند این بررسی‌ها در حالی انجام می‌شوند که مقامات کمیسیون تجارت فدرال آمریکا و وزارت دادگستری آمریکا در حال نزدیک شدن به توافق نهایی درباره نحوه نظارت بر غول‌های هوش مصنوعی مانند مایکروسافت، گوگل، انویدیا، اوپن‌ای‌آی و دیگران هستند.
براساس این توافق که هنوز در حال نهایی شدن است، وزارت دادگستری آمریکا بازرس اصلی انویدیا خواهد بود و کمیسیون تجارت فدرال آمریکا مسوولیت بازرسی فعالیت‌های مایکروسافت و سرمایه‌گذاری در اوپن‌ای‌آی را بر عهده خواهد داشت. تمرکز هر بازرسی بر این است که آیا شرکت‌های مورد نظر از موقعیت غالب خود در صنعت هوش مصنوعی برای آسیب رساندن به رقابت استفاده کرده‌اند یا نه.
به گفته این دو منبع آگاه، تحقیقات کمیسیون تجارت فدرال آمریکا درباره مایکروسافت به این موضوع مربوط می‌شود که این شرکت یا سرمایه‌گذاری در اینفلکشن ای‌آی، خریدی را انجام داده و آن را به دولت فاش نکرده است.
در ماه مارس، مایکروسافت اعلام کرد که بنیانگذاران اینفلکشن ای‌آی و تعدادی از کارکنان خود را برای سرپرستی برنامه کوپایلت (Copilot) خود به کار گرفته و اینفلکشن ای‌آی اعلام کرد که مدل هوش مصنوعی روی پلتفرم فضای ابری مایکروسافت میزبانی خواهد شد. مایکروسافت به عنوان بخشی از آن معامله، ۶۵۰ میلیون دلار به اینفلکشن ای‌آی پرداخت کرده است.
مایکروسافت، اینفلکشن ای‌آی، گوگل و اوپن‌ای‌آی پاسخ فوری به درخواست اظهار نظر ندادند. انویدیا نیز از اظهار نظر خودداری کرد.
توافق‌نامه تقسیم کار سازمان‌های آمریکا، درها را به روی تحقیقات فشرده‌تر در بخشی باز می‌کند که به سرمایه‌گذاران انرژی داده، مصرف‌کنندگان را مجذوب خود کرده و در عین حال، زنگ خطر را در میان منتقدانی به صدا درآورده است که به فوریت گفته‌اند هوش مصنوعی باید به طور گسترده جلوی تقسیم، تبعیض و تقلب را بگیرد.
نامه افشاگرانه کارکنان شرکت‌های هوش مصنوعی
در همین حال کارکنان فعلی و سابق شرکت‌های مشهور توسعه هوش مصنوعی در نامهای سرگشاده خواستار حمایت‌های قوی‌تر از افشاگران مسائل ایمنی هوش مصنوعی شده‌اند. این نامه توسط ۱۳ کارمند فعلی و سابق شرکت‌های اوپن‌ای‌آی، گوگل و آنتروپیک امضا شده است.
امضاکنندگان این نامه، کارکنان سابق و فعلی شرکت‌های پیشرو در حوزه هوش مصنوعی مانند اوپن‌ای‌آی، گوگل دیپ‌مایند و آنتروپیک هستند و خواستار شفافیت بیشتر و محافظت در برابر تلافی برای کسانی شده‌اند که درباره نگرانی‌های بالقوه هوش مصنوعی صحبت می‌کنند.
در این نامه که به تازگی منتشر شده، آمده است: تا زمانی که نظارت مؤثر دولت بر این شرکت‌ها وجود نداشته باشد، کارمندان فعلی و سابق از معدود افرادی هستند که می‌توانند آنها را در برابر مردم پاسخگو کنند. با این حال، توافق‌نامه‌های محرمانه گسترده ما را از ابراز نگرانی‌هایمان باز می‌دارند.
این نامه تنها چند هفته پس از تحقیقات Vox منتشر می‌شود که نشان داد شرکت اوپن‌ای‌آی تلاش کرده است کارکنانی را که اخیراً این شرکت را ترک کرده‌اند، با وادار کردن آنها به انتخاب بین امضای یک توافق‌نامه توهین آمیز یا خطر از دست دادن سهام خود در این شرکت سرکوب و ساکت کند.
پس از این گزارش، سم آلتمن مدیر عامل اوپن‌ای‌آی گفت که او واقعاً از این موضوع شرمنده شده است و ادعا کرد که این توافق‌نامه از مدارکی که باید هنگام ترک شرکت امضا شوند، حذف شده است. اگرچه مشخص نیست که آیا هنوز برای برخی از کارمندان به قوت خود باقی است یا خیر.
۱۳ امضاکننده این نامه سرگشاده شامل کارمندان سابق اوپن‌ای‌آی به نامهای جیکوب هینتون، ویلیام ساندرز و دنیل کوکوتایلو هستند.
کوکوتایلو می‌گوید با از دست دادن اعتماد خود به اینکه هوش عمومی‌مصنوعی به شکل مسئولانه ایجاد می‌شود، از این شرکت استعفا داده است. هوش عمومی‌مصنوعی اصطلاحی برای تعریف سیستم‌های هوش مصنوعی است که به‌اندازه انسان هوشمند یا باهوش‌تر از انسان هستند.
این نامه که توسط کارشناسان برجسته هوش مصنوعی جفری هینتون، یوشوا بنجیو و استوارت راسل امضا شده است، نگرانی شدیدی را در مورد عدم نظارت مؤثر دولت بر هوش مصنوعی و انگیزه‌های مالی که غول‌های فناوری را به سرمایه‌گذاری در این فناوری سوق می‌دهد، ابراز می‌کند.
نویسندگان این نامه هشدار می‌دهند که توسعه بدون نظارت سیستم‌های قدرتمند هوش مصنوعی می‌تواند منجر به انتشار اطلاعات نادرست، تشدید نابرابری و حتی از دست دادن کنترل انسان بر سیستم‌های خودمختار شود و حتی به طور بالقوه منجر به انقراض انسان شود.
کوکوتایلو در شبکه اجتماعی ایکس نوشت: خیلی چیزها در مورد نحوه کار این سیستم‌ها و اینکه آیا با هوشمندتر شدن و احتمالاً پیشی گرفتن از هوش انسانی در همه زمینه‌ها مطابق با منافع انسانی باقی می‌مانند یا نه وجود دارد. هیچ نظارتی بر این فناوری وجود ندارد. درعوض ما به شرکت‌هایی که آنها را برای خودمختاری می‌سازند، تکیه می‌کنیم. در زمانی که انگیزه‌های سود و هیجان در مورد این فناوری، آنها را به سمت حرکت سریع و شکستن مرزها سوق می‌دهد، تنها افرادی که می‌توانند به مردم هشدار دهند ما هستیم.
شرکت‌های اوپن‌ای‌آی، گوگل دیپ‌مایند و آنتروپیک هنوز به درخواست خبرنگاران و رسانه‌ها برای اظهارنظر درباره این نامه پاسخ نداده‌اند. تنها سخنگوی شرکت اوپن‌ای‌آی در بیانیه‌ای که برای بلومبرگ ارسال کرده گفت که این شرکت به سوابق خود در ارائه قوی‌ترین و ایمن‌ترین سیستم‌های هوش مصنوعی افتخار می‌کند و به رویکرد علمی‌خود برای مقابله با خطر اعتقاد دارد. وی افزود: ما موافقیم که بحث‌های دقیق با توجه به اهمیت این فناوری بسیار مهم است و ما به تعامل با دولت‌ها، جامعه مدنی و سایر جوامع در سراسر جهان ادامه خواهیم داد.
امضاکنندگان این نامه از شرکت‌های هوش مصنوعی خواسته‌اند که به چهار اصل کلیدی زیر پایبند باشند:
-خودداری از انتقام گرفتن از کارکنانی که نگرانی‌های ایمنی را بیان می‌کنند.
-پشتیبانی از یک سیستم ناشناس برای افشاگران برای هشدار به مردم و نهادهای نظارتی در مورد خطرات هوش مصنوعی
-اجازه دادن به فرهنگ انتقاد آشکار
-پرهیز از توافق‌نامه‌های اجباری یا عدم افشا که کارمندان را از صحبت کردن درباره این موارد بازمی‌دارد.
این نامه در بحبوحه بررسی‌های فزاینده روی شیوه‌های اوپن‌ای‌آی از جمله انحلال تیم ایمنی خود و خروج چهره‌های کلیدی مانند یکی از بنیانگذاران آن به نام ایلیا ساتسکور (Ilya Sutskever) و یان لیک(Jan Leike) که از اولویت دادن معرفی محصولات چشم‌پرکن و پر زرق و برق بر ایمنی انتقاد کردند، منتشر شده است.
دو منبع آگاه به سی‌ان‌ان گفتند این بررسی‌ها در حالی انجام می‌شوند که مقامات کمیسیون تجارت فدرال آمریکا و وزارت دادگستری آمریکا در حال نزدیک شدن به توافق نهایی درباره نحوه نظارت بر غول‌های هوش مصنوعی مانند مایکروسافت، گوگل، انویدیا، اوپن‌ای‌آی و دیگران هستند.
براساس این توافق که هنوز در حال نهایی شدن است، وزارت دادگستری آمریکا بازرس اصلی انویدیا خواهد بود و کمیسیون تجارت فدرال آمریکا مسوولیت بازرسی فعالیت‌های مایکروسافت و سرمایه‌گذاری در اوپن‌ای‌آی را بر عهده خواهد داشت. تمرکز هر بازرسی بر این است که آیا شرکت‌های مورد نظر از موقعیت غالب خود در صنعت هوش مصنوعی برای آسیب رساندن به رقابت استفاده کرده‌اند یا نه.
به گفته این دو منبع آگاه، تحقیقات کمیسیون تجارت فدرال آمریکا درباره مایکروسافت به این موضوع مربوط می‌شود که این شرکت یا سرمایه‌گذاری در اینفلکشن ای‌آی، خریدی را انجام داده و آن را به دولت فاش نکرده است.
در ماه مارس، مایکروسافت اعلام کرد که بنیانگذاران اینفلکشن ای‌آی و تعدادی از کارکنان خود را برای سرپرستی برنامه کوپایلت (Copilot) خود به کار گرفته و اینفلکشن ای‌آی اعلام کرد که مدل هوش مصنوعی روی پلتفرم فضای ابری مایکروسافت میزبانی خواهد شد. مایکروسافت به عنوان بخشی از آن معامله، ۶۵۰ میلیون دلار به اینفلکشن ای‌آی پرداخت کرده است.
مایکروسافت، اینفلکشن ای‌آی، گوگل و اوپن‌ای‌آی پاسخ فوری به درخواست اظهار نظر ندادند. انویدیا نیز از اظهار نظر خودداری کرد.
توافق‌نامه تقسیم کار سازمان‌های آمریکا، درها را به روی تحقیقات فشرده‌تر در بخشی باز می‌کند که به سرمایه‌گذاران انرژی داده، مصرف‌کنندگان را مجذوب خود کرده و در عین حال، زنگ خطر را در میان منتقدانی به صدا درآورده است که به فوریت گفته‌اند هوش مصنوعی باید به طور گسترده جلوی تقسیم، تبعیض و تقلب را بگیرد.
نامه افشاگرانه کارکنان شرکت‌های هوش مصنوعی
در همین حال کارکنان فعلی و سابق شرکت‌های مشهور توسعه هوش مصنوعی در نامهای سرگشاده خواستار حمایت‌های قوی‌تر از افشاگران مسائل ایمنی هوش مصنوعی شده‌اند. این نامه توسط ۱۳ کارمند فعلی و سابق شرکت‌های اوپن‌ای‌آی، گوگل و آنتروپیک امضا شده است.
امضاکنندگان این نامه، کارکنان سابق و فعلی شرکت‌های پیشرو در حوزه هوش مصنوعی مانند اوپن‌ای‌آی، گوگل دیپ‌مایند و آنتروپیک هستند و خواستار شفافیت بیشتر و محافظت در برابر تلافی برای کسانی شده‌اند که درباره نگرانی‌های بالقوه هوش مصنوعی صحبت می‌کنند.
در این نامه که به تازگی منتشر شده، آمده است: تا زمانی که نظارت مؤثر دولت بر این شرکت‌ها وجود نداشته باشد، کارمندان فعلی و سابق از معدود افرادی هستند که می‌توانند آنها را در برابر مردم پاسخگو کنند. با این حال، توافق‌نامه‌های محرمانه گسترده ما را از ابراز نگرانی‌هایمان باز می‌دارند.
این نامه تنها چند هفته پس از تحقیقات Vox منتشر می‌شود که نشان داد شرکت اوپن‌ای‌آی تلاش کرده است کارکنانی را که اخیراً این شرکت را ترک کرده‌اند، با وادار کردن آنها به انتخاب بین امضای یک توافق‌نامه توهین آمیز یا خطر از دست دادن سهام خود در این شرکت سرکوب و ساکت کند.
پس از این گزارش، سم آلتمن مدیر عامل اوپن‌ای‌آی گفت که او واقعاً از این موضوع شرمنده شده است و ادعا کرد که این توافق‌نامه از مدارکی که باید هنگام ترک شرکت امضا شوند، حذف شده است. اگرچه مشخص نیست که آیا هنوز برای برخی از کارمندان به قوت خود باقی است یا خیر.
۱۳ امضاکننده این نامه سرگشاده شامل کارمندان سابق اوپن‌ای‌آی به نامهای جیکوب هینتون، ویلیام ساندرز و دنیل کوکوتایلو هستند.
کوکوتایلو می‌گوید با از دست دادن اعتماد خود به اینکه هوش عمومی‌مصنوعی به شکل مسئولانه ایجاد می‌شود، از این شرکت استعفا داده است. هوش عمومی‌مصنوعی اصطلاحی برای تعریف سیستم‌های هوش مصنوعی است که به‌اندازه انسان هوشمند یا باهوش‌تر از انسان هستند.
این نامه که توسط کارشناسان برجسته هوش مصنوعی جفری هینتون، یوشوا بنجیو و استوارت راسل امضا شده است، نگرانی شدیدی را در مورد عدم نظارت مؤثر دولت بر هوش مصنوعی و انگیزه‌های مالی که غول‌های فناوری را به سرمایه‌گذاری در این فناوری سوق می‌دهد، ابراز می‌کند.
نویسندگان این نامه هشدار می‌دهند که توسعه بدون نظارت سیستم‌های قدرتمند هوش مصنوعی می‌تواند منجر به انتشار اطلاعات نادرست، تشدید نابرابری و حتی از دست دادن کنترل انسان بر سیستم‌های خودمختار شود و حتی به طور بالقوه منجر به انقراض انسان شود.
کوکوتایلو در شبکه اجتماعی ایکس نوشت: خیلی چیزها در مورد نحوه کار این سیستم‌ها و اینکه آیا با هوشمندتر شدن و احتمالاً پیشی گرفتن از هوش انسانی در همه زمینه‌ها مطابق با منافع انسانی باقی می‌مانند یا نه وجود دارد. هیچ نظارتی بر این فناوری وجود ندارد. درعوض ما به شرکت‌هایی که آنها را برای خودمختاری می‌سازند، تکیه می‌کنیم. در زمانی که انگیزه‌های سود و هیجان در مورد این فناوری، آنها را به سمت حرکت سریع و شکستن مرزها سوق می‌دهد، تنها افرادی که می‌توانند به مردم هشدار دهند ما هستیم.
شرکت‌های اوپن‌ای‌آی، گوگل دیپ‌مایند و آنتروپیک هنوز به درخواست خبرنگاران و رسانه‌ها برای اظهارنظر درباره این نامه پاسخ نداده‌اند. تنها سخنگوی شرکت اوپن‌ای‌آی در بیانیه‌ای که برای بلومبرگ ارسال کرده گفت که این شرکت به سوابق خود در ارائه قوی‌ترین و ایمن‌ترین سیستم‌های هوش مصنوعی افتخار می‌کند و به رویکرد علمی‌خود برای مقابله با خطر اعتقاد دارد. وی افزود: ما موافقیم که بحث‌های دقیق با توجه به اهمیت این فناوری بسیار مهم است و ما به تعامل با دولت‌ها، جامعه مدنی و سایر جوامع در سراسر جهان ادامه خواهیم داد.
امضاکنندگان این نامه از شرکت‌های هوش مصنوعی خواسته‌اند که به چهار اصل کلیدی زیر پایبند باشند:
-خودداری از انتقام گرفتن از کارکنانی که نگرانی‌های ایمنی را بیان می‌کنند.
-پشتیبانی از یک سیستم ناشناس برای افشاگران برای هشدار به مردم و نهادهای نظارتی در مورد خطرات هوش مصنوعی
-اجازه دادن به فرهنگ انتقاد آشکار
-پرهیز از توافق‌نامه‌های اجباری یا عدم افشا که کارمندان را از صحبت کردن درباره این موارد بازمی‌دارد.
این نامه در بحبوحه بررسی‌های فزاینده روی شیوه‌های اوپن‌ای‌آی از جمله انحلال تیم ایمنی خود و خروج چهره‌های کلیدی مانند یکی از بنیانگذاران آن به نام ایلیا ساتسکور (Ilya Sutskever) و یان لیک(Jan Leike) که از اولویت دادن معرفی محصولات چشم‌پرکن و پر زرق و برق بر ایمنی انتقاد کردند، منتشر شده است.
مرجع : ايسنا
