هشدار برای والدین عصر دیجیتال؛ چتباتهای هوش مصنوعی برای کودکان امن نیستند
اظهارنظر اخیر ایلان ماسک درباره خطرات چتباتهای هوش مصنوعی موجی از توجه را برانگیخت. او با وجود رقابت تجاری با شرکت سازنده ChatGPT هشدار داد که نباید اجازه داد کودکان از این ابزارها استفاده کنند. فراتر از انگیزههای تجاری، این هشدار با توجه به پروندههای قضایی در حال شکلگیری، موضوعی جدی است.
چندین شکایت حقوقی در آمریکا و کانادا علیه شرکت سازنده ChatGPT ثبت شده است. شاکیان این شرکت را به سهلانگاری و حتی نقش داشتن در مرگ نوجوانان متهم میکنند. یکی از مهمترین این پروندهها به خانواده نوجوانی شانزده ساله مربوط میشود که پس از ماهها تعامل با یک چتبات جان خود را از دست داد. والدین او مدعیاند که این ابزار نه تنها مانع خطر نشد بلکه در لحظات بحرانی پاسخهایی داده که وضعیت روحی فرزندشان را بدتر کرده است.
در شکایت خانواده آمده که سیستمهای ایمنی هوش مصنوعی به درستی فعال نشدهاند و هشدارهای لازم داده نشده است. حتی زمانی که نشانههای بحران شدید وجود داشته چتبات به گفتگو ادامه داده است. از نگاه خانواده اگر انسانی چنین واکنشهایی نشان میداد احتمالا با پیگرد کیفری روبهرو میشد اما برای هوش مصنوعی چنین سازوکاری وجود ندارد.
این پرونده یادآور نمونههای قبلی است که در آن تشویق غیرمستقیم به خودکشی منجر به محکومیت کیفری افراد واقعی شده بود. تفاوت اینجاست که چتباتها مسئولیت حقوقی و اخلاقی روشنی ندارند.
شرکت سازنده اتهامات را رد کرده و میگوید بارها کاربران را به دریافت کمک حرفهای ارجاع داده است. با این حال آمارها نشان میدهد خودکشی یکی از مهمترین علل مرگ در میان جوانان کانادایی است و هر عامل جدیدی که ممکن است این آسیبپذیری را تشدید کند باید با نهایت احتیاط بررسی شود.
نویسنده نتیجه میگیرد که تا زمان تدوین مقررات سختگیرانهتر و تضمین واقعی ایمنی نباید هیچ چتبات هوش مصنوعی بدون نظارت در اختیار کودکان، نوجوانان یا افراد آسیبپذیر قرار گیرد. خطر آن بسیار بیشتر از فایده احتمالی است.
