جهان برای یک بحران هوش مصنوعی آماده نیست
تصور کنید صبح از خواب بیدار میشوید و اینترنت مدام قطع و وصل میشود، پرداختهای بانکی از کار افتاده، آمبولانسها به آدرسهای اشتباه میروند و پیامهای اضطراری دیگر قابل اعتماد نیستند. چنین سناریویی میتواند نتیجه یک بحران ناشی از هوش مصنوعی باشد؛ بحرانی که ممکن است بهدلیل نقص فنی، سوءاستفاده مجرمانه یا حملات سایبری رخ دهد و بهسرعت از مرزها عبور کند.
در بسیاری از موارد، نشانههای اولیه یک بحران هوش مصنوعی شبیه یک قطعی ساده یا نقص امنیتی به نظر میرسد و تنها بعدها مشخص میشود که سیستمهای هوشمند نقش اصلی را داشتهاند. اگرچه برخی دولتها و نهادها مانند اتحادیه اروپا، گروه هفت و مؤسسات استانداردگذاری تلاش کردهاند با قوانین و چارچوبهای فنی از بروز چنین خطراتی جلوگیری کنند، اما مشکل اصلی نبود برنامهای برای مدیریت وحشت اجتماعی، فروپاشی اعتماد عمومی و اختلال در ارتباطات بینالمللی در زمان بحران است.
حکمرانی هوش مصنوعی فقط به پیشگیری محدود نمیشود؛ آمادگی و واکنش سریع، بخش گمشده این معادله است. چه کسی اعلام میکند یک حادثه به «بحران بینالمللی هوش مصنوعی» تبدیل شده؟ چه نهادی در زمانی که اطلاعات جعلی فضای مجازی را پر کرده، با مردم صحبت میکند؟ و چه کسی ارتباط دولتها را در صورت اختلال کانالهای عادی حفظ میکند؟
نویسنده پیشنهاد میکند همانطور که برای بحرانهای بهداشتی، هستهای یا مخابراتی سازوکارهای بینالمللی وجود دارد، یک چارچوب جهانی برای بحرانهای هوش مصنوعی نیز ایجاد شود. این چارچوب باید شامل تعریف مشترک از بحران، معیارهای تشدید وضعیت، هماهنگکننده جهانی، سیستم گزارشدهی سریع، پروتکلهای ارتباط اضطراری و اقدامات کنترلی مانند کاهش فعالیت سیستمهای پرخطر باشد.
بهترین بستر برای این هماهنگی، سازمان ملل متحد است؛ نهادی فراگیر که میتواند مشروعیت، شفافیت و همکاری جهانی را تضمین کند. در سطح ملی نیز کشورها باید از هماکنون نقاط تماس اضطراری، تمرینهای مشترک و ابزارهای قانونی لازم را آماده کنند.
پیام روشن است: جهان هنوز برنامهای برای بدترین روز هوش مصنوعی ندارد، اما هنوز فرصت برای ساختن آن باقی است—اگر همین حالا اقدام کنیم.
