هوش مصنوعی و پرسشهای اخلاقی عمیق: پاسخ آن بر عهده همه بشریت است
این مقاله به یکی از مهمترین چالشهای عصر هوش مصنوعی میپردازد: انتقال تصمیمهای اخلاقی از انسانها به سیستمهای هوش مصنوعی و شرکتهایی که آنها را میسازند. پرسشهایی مانند اینکه چه کسی در مبادی مرزی رد می شود، وام چه کسی تأیید میشود، یا در جنگها یک سیستم تسلیحاتی هوشمند کدام مناطق را هدف میگیرد، زمانی تصمیمهایی انسانی بودند؛ اما اکنون به الگوریتمها و شرکتهای فناوری سپرده میشوند.
نویسندگان هشدار میدهند که نباید اجازه داد شرکتها خودشان بر رفتار اخلاقی هوش مصنوعی نظارت کنند. حتی برخی از پیشگامان این صنعت، مانند کریستوفر اولاه از شرکت Anthropic، تأکید کردهاند که متخصصان فناوری بهتنهایی قابل اعتماد نیستند و باید نظارت مستقل و عمومی وجود داشته باشد. او همصدا با دیدگاه پاپ لئو چهاردهم است که هشدار میدهد هوش مصنوعی باید در خدمت انسان باشد، نه ابزاری برای تمرکز قدرت.
این مقاله پیشنهاد میکند که یک نهاد تنظیمگر مستقل و قدرتمند لازم است؛ نهادی که بتواند مانند سازمانهای نظارت بر دارو یا انرژی هستهای، در صورت خطر، «نه» بگوید. زیرا تصمیمهای فنی در واقع حامل پرسشهای عمیق اخلاقی هستند: چه میزان خطر قابل قبول است و چه کسانی باید بار آن را تحمل کنند؟
با این حال، شرکتها تلاش میکنند با برنامههایی مانند «اخلاقمحوری شرکتی» یا مشاورههای محدود عمومی، توهم مشارکت مردمی ایجاد کنند.
نمونههایی مانند آزمایشها و مشاوره های عمومی برای تنظیم چتباتها نشان میدهد که مشارکت واقعی اغلب محدود و کنترلشده است و تأثیر نهایی چندانی ندارد.
در نهایت، نتیجهگیری مقاله این است که هوش مصنوعی باید تحت یک چارچوب حکمرانی دموکراتیک اخلاقی قرار گیرد؛ جایی که مردم نهتنها نظر بدهند، بلکه قدرت واقعی برای تعیین و اجرای استانداردها داشته باشند. بدون این قدرت، هر نوع مشارکت عمومی صرفاً نمایشی خواهد بود، نه دموکراسی واقعی.
