ChatGPT؛ خدمتی بزرگ به بشر یا معامله با شیطان

آی‌تی‌من- برای ما که خاطرات طولانی‌تری داریم، هیاهوی کنونی پیرامون ChatGPT (و به طور کلی، هوش مصنوعی مولد) زنگ خطر را به صدا درمی‌آورد.

ما قبلا هم در چنین موقعیتی بوده‌ایم. دقیق‌تر بگویم، در ژانویه 1966 که جوزف وایزنباوم، محقق کامپیوتر انستیتو فناوری ماساچوست، از «الایزا» رونمایی کرد. آن زمان، اصلاح چت‌بات وجود نداشت؛ وگرنه می‌شد الیزا را نخستین چت‌بات جهان نامید.

وایزنباوم این نرم‌افزار را (با یک زبان برنامه‌نویسی با نام کنایه‌آمیز MAD-SLIP) نوشت تا نشان دهد که ارتباط انسان-کامپیوتر به‌طور گریزناپذیری سطحی است. او این کار را با یک جعبه متنی انجام داد که می‌شد از طریق آن، ارتباطات متنی را با دستگاه تبادل کرد. در داخل این برنامه، متن سناریویی به نام «دکتر وایزنباوم» قرار داشت که می‌توانست گفت‌وگوی بیمار با یک روان‌درمان‌گر به نام «کارل راجرز» را تقلید کند. نام برنامه هم از «الایزا دولیتل» گرفته شده بود؛ دختری که در نمایش پیگمالیون جورج برنارد شاو، فصیح سخن گفتن را از پروفسور هنری هیگینز می‌آموزد.

روش کار الایزا به این صورت است که برنامه آنچه را که شما تایپ کرده‌اید، دریافت و پردازش می‌کند و پاسخی مناسب برای آن تولید می‌کند. فرض کنید چنین تایپ کنید (من دقیثا همین متن را به الایزا دادم): “من از سیاست بریتانیا کمی ناامید هستم.” الیزا جواب می‌دهد: “فکر می‌کنی آمدن به اینجا به تو کمک می‌کند افسرده نشوی؟” من: “امیدوارم.” الیزا: “آیا به دلیل خاصی امیدوار هستی؟” نکته را متوجه شدید؟ خودتان هم می‌توانید آن را امتحان کنید. کافی است به آدرسmasswerk.at/elizabot/  بروید.

وایزنباوم این برنامه را نوشت تا نشان دهد اگرچه ماشین‌ها در ظاهر می‌توانند رفتار انسان را تقلید کنند؛ اما این کار درست مانند شعبده‌بازی است که یک خرگوش را از کلاهش بیرون می‌کشد؛ یعنی صرفا تردستی. وایزنبام فکر می‌کرد وقتی انسان‌ها بفهمند که این ترفند چگونه انجام شده، دیگر یک تردستی نخواهد بود. هیچ چیز پنهانی در مورد الیزا وجود نداشت: اگر کد را بخوانید، می‌توانید بفهمید که چگونه کارش را انجام می‌دهد. اما چیزی که وایزنباوم نمی‌دانست این بود که مردم حتی اگر بدانند که الایزا صرفا یک نرم‌افزار است، باز هم آن را جدی می‌گیرند. داستان معروفی در مورد منشی وایزنباوم می‌گویند که وقتی داشته با الایزا حرف می‌زده، از رییس‌اش خواسته که از اتاق بیرون برود. مردم کاملاً شیفته الایزا شده بودند. (این را خودم زمانی دیدم که یک بار آن را روی رایانه شخصی‌ام در دانشگاه اجرا کردم و مجبور شدم افراد را به زور از دستگاه جدا کنم تا دیگرانی هم که در صف بودند، بتوانند از آن استفاده کنند.)

حالا ماجرای ChatGPT هم همین است: مردم می‌دانند که چطور کار می‌کند؛ اما همچنان آن را جادویی می‌پندارند.

پس از انتشار مقاله وایزنباوم درباره الایزا، طولی نکشید که برخی از افراد، از جمله گروهی از روانپزشکان، این نگرانی را مطرح کردند که اگر دستگاهی بتواند این گونه عمل کند، دیگر چه کسی به روان‌درمانگر نیاز خواهد داشت؟ همان‌طور که هنرمندان امروزی از بردگی معاصر مبتنی بر ابزارهای هوش مصنوعی وحشت کرده‌اند، وایزنباوم هم از این سوال‌ها وحشت‌زده شد. از نظر او، چیزی در رابطه بین یک فرد و درمانگرش وجود دارد که اساساً مربوط به ملاقات بین دو انسان است. وایزنبام بر اهمیت تعامل بین انسان‌ها متمرکز بود. از این نظر، او نه تنها یک دانشمند برجسته کامپیوتر، بلکه یک انسان‌گرای برجسته نیز بود.

این نگاه انسان‌گرایانه، به مخالفت مادام‌العمر او با جبرگرایی «روشنفکر مصنوعی» دامن زد و در کتاب سال 1976 او با نام «قدرت کامپیوتر و عقل انسان» بازتاب یافت و در رده افرادی مانند نوربرت واینر قرار گرفت که درباره «خودکارسازی همه چیز» ملاحظات جدی دارند.

شباهت جالب ChatGPT با الایزا همین است که مردم آن را جاویی می‌دانند، هرچند می‌دانند چطور کار می‌کند – آن طور که تیمنیت گبرو، محقق برجسته می‌گوید، مثل یک طوطی تصادفی؛ یا آن طور که نوام‌ چامسکی بیان می‌کند، مانند ماشینی فناورانه برای سرقت ادبی. اما در واقع ما هنوز نیمی از تبعات آن را هم نمی‌دانیم- میزان انتشار دی‌اکسید کربن ناشی از آموزش مدل‌زبانی زیربنایی آن و ردپای کربن این تعاملات هیچان‌انگیز چقدر است؟ یا، به قول چامسکی، این فناوری تنها به دلیل تصاحب غیرمجاز کار خلاقانه میلیون‌ها نفری که اتفاقاً در اینترنت قرار گرفته موفق شده است؟ مدل کسب و کار پشت این ابزارها چیست؟ پاسخ این سوال‌ها و سوالات مشابه این است: نمی‌دانیم!

وایزنباوم در یکی از سخنرانی‌های خود اشاره کرد که ما بی‌وقفه در حال بده‌بستان‌های فاوستی با فناوری هستیم. (فاوست روحش را برای دستیابی به دانش نامحدود و لذات دنیوی در معامله‌ای با شیطان معاوضه کرد) در این گونه قراردادها، هر دو طرف چیزی می‌گیرند: شیطان روح انسان را می‌گیرد و انسان خدماتی دریافت می‌کند. گاهی نهایت تصمیم می‌گیریم که چنین معامله‌ای نکنیم؛ اما دیگر خیلی دیر شده است. این معامله‌ای است که هوش مصنوعی مولد اکنون روی میز گذاشته است. آیا ما برای آن آماده‌ایم؟