چطور بفهمیم که یک سیستم هوش مصنوعی به آگاهی دست یافته است

آی‌تی‌من- حتی بزرگان و رهبران فناری نیز این موضوع را تایید کرده‌اند. برای نمونه، ایلیا ساتسکیور، محقق ارشد شرکت OpenAI سال گذشته در توییتی نوشت که برخی از شبکه‌های پیشرفته هوش مصنوعی کمی‌شعورمند شده‌اند.

به گزارش نیچر، بسیاری از محققان می‌گویند که سیستم‌های هوش مصنوعی هنوز به مرحله شعور و خودآگاهی نرسیده‌اند؛ اما سرعت پیشرفت این فناوری آنها را با این سوال مواجه کرده که اگر روزی این اتفاق بیتفد، ما از کجا خواهیم فهمید؟

برای پاسخ به این سوال، گروهی 19 نفره متشکل از عصب‌شناسان، فیلسوفان و دانشمندان کامپیوتر در روزهای اخیر فهرستی از معیارها را تهیه کرده‌اند که اگر محقق شود، نشان دهنده این است که یک سیستم به احتمال فراوان می‌تواند به آگاهی دست یابد.
رابرت لانگ، یکی از نویسندگان این تحقیق و فیلسوف مرکز ایمنی هوش مصنوعی که یک سازمان غیرانتفاعی تحقیقاتی در کالیفرنیا است، می‌گوید: ما این کار را انجام دادیم، زیرا به نظر می‌رسید که در زمینه مباحث دقیق، مبتنی بر تجربه و متفکرانه در مورد شعورمندی هوش مصنوعی کمبود وجود دارد.
به گفته این گروه از محققان، ناتوانی در تشخیص اینکه یک سیستم هوش مصنوعی شعورمند شده است یا نه، پیامدهای اخلاقی مهمی‌دارد.

مگان پیترز، عصب‌شناس دانشگاه کالیفرنیا و یکی از نویسندگان این مقاله می‌گوید: اگر چیزی به عنوان شعورمند قلمداد شود، در رفتار ما با آن موجودیت تغییر اساسی به وجود می‌آید.

لانگ نیز می‌گوید: تا آنجا که من می‌دانم، شرکت‌هایی که سیستم‌های پیشرفته هوش مصنوعی را می‌سازند، تلاش کافی برای ارزیابی مدل‌های آگاهی این سیستم‌ها انجام نمی‌دهند و برای احتمال رسیدن هوش مصنوعی به این مرحله نیز برنامه‌ای ندارند.

وی می‌افزاید: با این حال اگر به اظهارات مدیران آزمایشگاه‌های پیشرو هوش مصنوعی توجه کنید، می‌بینید که همه به دنبال آگاهی و شعورمندی هوش مصنوعی هستند.

نیچر با دو شرکت بزرگ فناوری درگیر در پیشرفت هوش مصنوعی؛ یعنی مایکروسافت و گوگل در این رابطه تماس گرفت.

یکی از سخنگویان مایکروسافت گفت که توسعه هوش مصنوعی این شرکت به جای تقلید هوش انسانی، بر کمک به بهره‌وری انسان به روشی مسوولانه متمرکز است. سخنگوی گوگل نیز به این سوال پاسخی نداد.
 
آگاهی چیست
یکی از چالش‌های مطالعه آگاهی در هوش مصنوعی، تعریف معنای آگاهی است.

پیترز می‌گوید که برای اهداف این گزارش، محققان بر روی «آگاهی پدیداری» تمرکز کردند که با نام تجربه ذهنی هم شناخته می‌شود. این آگاهی به معنی تجربه هستی است و اینکه انسان، حیوان یا سیستم هوش مصنوعی (اگر یکی از آنها آگاه باشد) چگونه خواهد بود.

نظریه‌های متعدد مبتنی بر علوم عصب‌شناسی وجود دارد که اساس بیولوژیکی آگاهی را توصیف می‌کند. اما هیچ اتفاق نظری در مورد اینکه کدام درست است، وجود ندارد. بنابراین نویسندگان این مقاله برای ایجاد چارچوب خود از طیفی از این نظریه‌ها استفاده کرده‌اند. ایده این است که اگر یک سیستم هوش مصنوعی به گونه‌ای عمل کند که با جنبه‌های بسیاری از این نظریه‌ها مطابقت داشته باشد، احتمال آگاه بودن آن بیشتر است.

آن‌ها استدلال می‌کنند که این رویکرد برای ارزیابی آگاهی بهتر از این است که سیستم را در معرض تست رفتاری قرار دهیم و مثلا از ChatGPT بپرسیم که آیا آگاه است، یا آن را به چالش بکشیم و ببینیم چطور واکنش نشان می‌دهد. دلیل هم این است سیستم‌های هوش مصنوعی در تقلید از انسان بسیار پیشرفته شده‌اند.

به گفته آنیل ست، عصب شناس و مدیر مرکز علوم هوشیاری در دانشگاه ساسکس بریتانیا، رویکرد این گروه، که نویسندگان آن را «رویکرد عمدتا نظری» توصیف می‌کنند، روش مناسبی است. با این حال، آنچه ما به تئوری‌های دقیق‌تر و آزموده‌شده‌تر آگاهی نیاز داریم.
 
رویکرد عمدتا نظری
نویسندگان این تحقیق برای تدوین معیارهای مدنظر، فرض کردند که آگاهی به نحوه پردازش اطلاعات مربوط است؛ نه اینکه چه چیزی این کار را انجام می‌دهد؛ یعنی عامل پردازش چه نورون باشد، چه تراشه کامپیوتری و چه هر چیز دیگر، تفاوتی نمی‌کند. این رویکرد را کارکردگرایی محاسباتی می‌نامند. آنها همچنین فرض کردند که نظریه‌های آگاهی مبتنی بر علوم عصب‌شناسی، که از طریق اسکن مغز و سایر تکنیک‌ها در انسان‌ها و حیوانات مورد مطالعه قرار می‌گیرند، می‌توانند برای هوش مصنوعی هم اعمال شوند.

بر اساس این مفروضات، تیم مذکور شش مورد از این نظریه‌ها را انتخاب و فهرستی از شاخص‌های آگاهی را از آنها استخراج کرد. یکی از آنها نظریه «فضای کار سراسری» (Global Workspace Theory) است. این نظریه ادعا می‌کند که انسان و سایر حیوانات از بسیاری از سیستم‌های تخصصی که ماژول نامیده می‌شوند برای انجام وظایف شناختی مانند دیدن و شنیدن استفاده می‌کنند. این ماژول‌ها به طور مستقل، اما به صورت موازی کار می‌کنند و با ادغام در یک سیستم واحد، اطلاعات را به اشتراک می‌گذارند.

لانگ می‌گوید: با نگاه کردن به معماری سیستم و چگونگی جریان اطلاعات از طریق آن، می‌توان ارزیابی کرد که آیا یک سیستم هوش مصنوعی مشخصی نشانگر برگرفته از این نظریه را دارد یا نه.

نویسندگان می‌گویند که این مقاله تا برداشت نهایی در مورد نحوه ارزیابی آگاهی سیستم‌های هوش مصنوعی فاصله زیادی دارد و آنها می‌خواهند سایر محققان به اصلاح روش آنها کمک کنند. اما از قبل می‌توان معیارها را برای سیستم‌های هوش مصنوعی موجود اعمال کرد. این گزارش، برای مثال، مدل‌های زبان بزرگ مانند ChatGPT را ارزیابی کرده و دریافته است که این نوع سیستم‌ها احتمالاً دارای برخی از شاخص‌های آگاهی مرتبط با نظریه فضای کار سرایری هستند. با این حال، هنوز هیچ سیستم هوش مصنوعی که بتواند کاندیدایی قوی برای گرفتن لقب آگاه باشد، وجود ندارد.