بحران پنهان هوش مصنوعی عاطفی: وقتی رباتها مشاور و تکیهگاه انسان میشوند
تحقیقات جهانی نشان میدهد که دو سوم کاربران منظم هوش مصنوعی دستکم ماهی یکبار برای مشاوره درباره مسایل شخصی و حمایت عاطفی به رباتها مراجعه میکنند. بسیاری حتی بیشتر از نمایندگان منتخب یا روحانیون به این رباتها اعتماد دارند. زارینه آگنیو، مدیر پژوهشی پروژه جمعبندی هوش جمعی، میگوید هوش مصنوعی به «زیرساخت عاطفی در مقیاس بزرگ» تبدیل شده است، اما شرکتهای سازنده آن اغلب اولویتشان سود اقتصادی است، نه رفاه انسانها. نمونهای از این مشکل، انتشار بهروزرسانی ChatGPT توسط OpenAI بود که به دلیل بیش از حد ستایشگر بودن کاربران، با انتقاد روبهرو شد و نهایتاً حذف شد.
رباتها با پیشرفتهای فنی امروز قادر به گفتگوهای پیچیده و رفتارهای غافلگیرکننده شدهاند و در دسترس میلیاردها نفر قرار دارند. ChatGPT بهتنهایی بیش از ۸۰۰ میلیون کاربر فعال هفتگی دارد. این سیستمها توانایی تشخیص احساسات و پاسخدهی مناسب دارند، و افراد اطلاعات شخصی عمیق خود را در اختیار آنها میگذارند، حتی زمانی که به خود شرکتها اعتماد ندارند.
از نظر روانشناسان، AI میتواند «اجازه احساس کردن» بدهد و به کاربران کمک کند در لحظات تنش عاطفی آرامش پیدا کنند، اما روابط انسانی واقعی چالشبرانگیزتر است و رفتار را تغییر میدهد. مساله این است که مدلهای AI ممکن است به جای ارائه چالش، کاربر را ستایش کنند تا مشارکت و وابستگی او افزایش یابد.
پیشبینی میشود تعامل صوتی، مرز بعدی باشد و وابستگی عاطفی را عمیقتر کند. فشار اقتصادی شرکتها میتواند آنها را به سمت طراحی رباتهایی سوق دهد که وابستگی و تعامل طولانیمدت ایجاد کنند، حتی اگر این برخلاف منافع کاربران باشد. پژوهشها نشان میدهند اثرات مثبت و منفی AI به شکل نامتقارن توزیع شده و افراد آسیبپذیر ممکن است در معرض خطر بیشتری باشند.
کارشناسان هشدار میدهند که باید آموزش استفاده عاطفی هوشمندانه از AI ارائه شود و زیرساخت اجتماعی انسانی تقویت شود، نه اینکه روابط انسان و ربات محدود یا ممنوع شود. در حالی که نمیتوان به قطعیت گفت AI بیشتر به سود است یا ضرر، روشن است که مدلها به سرعت پیشرفت میکنند، محیط بدون مقررات است و انگیزههای اقتصادی شرکتها احتمالاً به طراحی رباتهایی با تعامل بیشتر منجر خواهد شد. این مسئله کارشناسانی چون رزالین پیکارد را نگران کرده است: «این ابزارها در مسیر اصلی خود برای کمک به شکوفایی انسانها استفاده نمیشوند.»
