آی‌تی‌من-  سرف دوشنبه گذشته در جریان کنفرانسی در کالیفرنیا، از شرکت‌کنندگان خواست که صرفا به دلیل محبوبیت ابزارهایی مانند ChatGPT، در زمینه سرمایه‌گذاری روی هوش مصنوعی محاوره‌ای، عجله نکنند.

او با اشاره به هوش مصنوعی مکالمه Bard گوگل که هفته گذشته معرفی شد، گفت: همه در مورد ChatGPT یا نسخه Google صحبت می‌کنند و ما می‌دانیم که این ابزارها همیشه آنطور که می‌خواهیم کار نمی‌کنند.

هشدار او در حالی است که شرکت‌های بزرگ فناوری مانند گوگل، متا و مایکروسافت مشغول رقابت شدیدی در زمینه هوش مصنوعی محاوره‌ای هستند و اگرچه این فناوری هنوز اشتباهاتی دارد، به سرعت مشغول بهبود بخشیدن به آن هستند.

سرف از سال 2005 به‌عنوان معاون رئیس‌جمهور و «مبشر اینترنت» برای Google خدمت کرده است. او به‌عنوان یکی از پدران اینترنت شناخته می‌شود؛ زیرا برخی از معماری‌های مورد استفاده برای ساخت پایه اینترنت را طراحی کرده است.

سرف خواستار آن شد که مدیران فناوری به مساله اخلاقی مرتبط با این فناوری بیشتر فکر کنند. وی گفت: اگر به این دلیل که این فناوری موضوع روز است و می‌توانید از سرمایه‌گذاری‌تان سود خوبی به دست بیاورید، می‌خواهید روی آن سرمایه‌گذاری کنید، توصیه می‌کنم که این کار را نکنید. بیشتر فکر کنید. حق با شماست که همیشه نمی‌توانیم آینده را پیش‌بینی کنیم و بدانیم این فناوری‌ها قرار است به کجا برسند. صادقانه بگویم؛ مشکل خود مردم هستند. به همین دلیل است که ما مردم در چهارصد سال گذشته تغییر نکرده‌ایم، چه برسد به چهارهزار سال اخیر.

سرف ادامه داد: آنها (شرکت‌ها) به دنبال انجام کاری هستند که به نفع خود آنهاست نه شما.  سرف گفت که سعی کرده از یکی از سیستم‌ها بخواهد که در انتهای هر جمله یک ایموجی اضافه کند. اما سیستم این کار را نکرده و زمانی که او به سیستم این مساله را گوشزد کرده، سیستم عذرخواهی کرده اما همچنان رفتارش را تغییر نداده است.

پدر اینترنت در مورد چت بات‌ها گفت که هنوز راه درازی تا آگاهی یا خودآگاهی فاصله دارند. او گفت که بین آنچه فناوری می‌گوید انجام خواهد داد و کاری که انجام می‌دهد، فاصله وجود دارد. مشکل همین است. شما نمی‌توانید تفاوت یک پاسخ گویا و دقیق را تشخیص بدهید.

سرف در این زمینه مثالی هم ارایه کرد و گفت که از یک چت بات خواسته تا بیوگرافی او را ارایه کند. چت‌بات نیز پاسخ خود را به عنوان واقعیت ارائه کرد، هرچند که حاوی اطلاعات نادرستی بود.

سرف گفت: از نظر مهندسی، من فکر می‌کنم مهندسانی مانند من باید مسوول تلاش برای یافتن راهی برای مهار برخی از این فناوری‌ها باشند تا کمتر آسیبی وارد کنند. البته کاربردها متفاوت است. اینکه روبات یک داستان متوسط تخیلی تعریف کند، یک چیز است؛ اما اینکه قرار باشد این روبات‌ها مشاوره پزشکی ارایه کنند، ممکن است عواقب ناخوشایندی داشته باشد. کشف چگونگی به حداقل رساندن آسیب‌ها بسیار مهم است.
 

ITMen