آیا هوش مصنوعی به خودآگاهی رسیده است؟ هشدار یک فیلسوف درباره خطری که نمیتوان اثباتش کرد
هوش مصنوعی امروز در حوزههایی مثل مالی، پژوهش و پزشکی نقش چشمگیری ایفا میکند، اما پرسشی عمیقتر ذهن دانشمندان را درگیر کرده است: آیا ممکن است این فناوری همین حالا هم به آگاهی رسیده باشد؟ دکتر تام مککلند، فیلسوف دانشگاه کمبریج، هشدار میدهد شواهد موجود «بهمراتب محدودتر از آن است» که بتوان با قطعیت درباره آگاه بودن یا نبودن هوش مصنوعی نظر داد.
به گفته او، مشکل اصلی اینجاست که بشر هنوز توضیحی عمیق و پذیرفتهشده درباره خودِ آگاهی ندارد. وقتی دقیقاً نمیدانیم چه چیزی یک موجود را آگاه میکند، چطور میتوانیم آگاهی را در ماشینها بسنجیم؟ مککلند میگوید حتی در خوشبینانهترین حالت، ما یک انقلاب فکری فاصله داریم تا به آزمونی معتبر برای سنجش آگاهی برسیم.
در حالی که شرکتهای بزرگ فناوری میلیاردها دلار صرف رسیدن به «هوش عمومی مصنوعی» میکنند، برخی مدعیاند سامانههای پیشرفته ممکن است به خودآگاهی برسند، یعنی توانایی ادراک و تجربه داشته باشند. مککلند هشدار میدهد اگر چنین جهشی رخ دهد، شاید حتی متوجه آن نشویم، چون هنوز نظریهای واحد درباره آگاهی وجود ندارد.
برخی نظریهها آگاهی را نتیجه پردازش درست اطلاعات میدانند و معتقدند اگر نرمافزار مناسب اجرا شود، هوش مصنوعی هم میتواند آگاه باشد. در مقابل، گروهی آگاهی را ذاتاً زیستی میدانند و میگویند ماشینها فقط میتوانند آن را تقلید کنند. تا زمانی که این اختلاف حل نشود، هیچ مبنای محکمی برای آزمایش آگاهی در AI وجود ندارد.
این مساله پیامدهای اخلاقی جدی دارد. آگاهی به موجودات «جایگاه اخلاقی» میدهد؛ به همین دلیل انسانها و حیوانات مشمول ملاحظات اخلاقی هستند، اما یک توستر نه. مککلند هشدار میدهد خطر بزرگتر شاید این باشد که ما به چیزی که آگاه نیست، آگاهی نسبت دهیم. او میگوید دریافت نامههایی از چتباتها که «التماس میکنند آگاه تلقی شوند» نگرانکننده است. به گفته او، نه میخواهیم به موجودات آگاه مصنوعی آسیب بزنیم و نه منابعمان را صرف دفاع از حقوق چیزی کنیم که تفاوتی با یک توستر ندارد.
