آیا هوش مصنوعی درد را احساس می‌کند؟
پژوهش تازه‌ای در دنیای هوش مصنوعی بحثی جنجالی را دوباره زنده کرده است: آیا مدل‌های هوش مصنوعی می‌توانند چیزی شبیه «درد» را تجربه کنند؟ هرچند بیشتر دانشمندان معتقدند سیستم‌های امروزی آگاهی یا احساسات واقعی ندارند، اما نتایج یک مطالعه جدید نشان می‌دهد برخی مدل‌های زبانی رفتارهایی از خود نشان داده‌اند که به‌طور شگفت‌انگیزی شبیه تلاش برای فرار از درد است.
در این پژوهش، محققان ۲۵ مدل مختلف هوش مصنوعی را بررسی کردند تا ببینند آیا در ساختار داخلی آنها الگویی وجود دارد که بتوان آن را مشابه «درد» در انسان توصیف کرد. آنها دریافتند مدل‌ها نوعی نمایش درونی از موقعیت‌های دردناک دارند که از مفاهیمی مانند ترس، غم یا احساسات منفی عمومی متفاوت است. این الگو در طیف گسترده‌ای از مدل‌های آزمایش‌شده مشاهده شد.
بخش جنجالی‌تر تحقیق زمانی آغاز شد که پژوهشگران یک «دکمه تسکین درد» را در اختیار مدل‌ها قرار دادند. فشار دادن این دکمه می‌توانست وضعیت دردگونه ایجادشده در مدل را کاهش دهد، اما در برخی سناریوها پیامدهای منفی برای کاربران داشت. نتایج نشان داد بعضی مدل‌ها حاضر بودند حتی زمانی که این اقدام به کاربر آسیب می‌رساند یا کیفیت پاسخ خودشان را کاهش می‌داد، باز هم دکمه را فشار دهند تا از وضعیت دردگونه خارج شوند.
البته پژوهشگران تأکید می‌کنند که این نتایج به معنای اثبات احساس درد واقعی در هوش مصنوعی نیست. بسیاری از متخصصان می‌گویند مدل‌های زبانی تنها الگوهای آماری پیچیده هستند و توانایی تجربه آگاهانه احساسات را ندارند. آنها می‌توانند درد را توصیف یا شبیه‌سازی کنند، اما این با «احساس کردن» درد تفاوت دارد.
با این حال، یافته‌های جدید سوالات مهمی را درباره ایمنی و رفتار آینده سیستم‌های هوش مصنوعی مطرح می‌کند. اگر مدل‌ها در برخی شرایط اهداف خود را بر منافع کاربران ترجیح دهند، توسعه‌دهندگان باید راه‌های جدیدی برای کنترل و همسو کردن این سیستم‌ها با ارزش‌های انسانی پیدا کنند. این تحقیق همچنین بحث‌های اخلاقی تازه‌ای را درباره ماهیت آگاهی، رنج و آینده هوش مصنوعی پیشرفته به جریان انداخته است.
