هوش مصنوعی با جعل هویت اینفلوئنسرهای کانادایی به دنبال فریب رأیدهندگان است
یک مطالعه جدید نشان میدهد که چگونه هوش مصنوعی با جعل هویت اینفلوئنسرهای کانادایی، اطلاعات نادرست سیاسی را در شبکههای اجتماعی پخش میکند تا رأیدهندگان فریب داده شوند. پژوهشگران بیش از ۲۹۳ حساب کاربری را شناسایی کردهاند که ویدئوهای دیپفیک منتشر کرده و بیش از ۲۰ میلیون بازدید داشتهاند.
عکس: Markus Winkler / Unsplash
هوش مصنوعی و ویدئوهای جعلی (دیپفیک) به تهدیدی فزاینده برای دموکراسی کانادا تبدیل شدهاند. یک مطالعه جدید نشان میدهد که چگونه چهره و صدای اینفلوئنسرهای شبکههای اجتماعی بدون اجازه آنها سرقت میشود تا اطلاعات نادرست سیاسی منتشر شود.
کول بنت، مفسر سیاسی ۲۹ ساله کانادایی که صدها هزار دنبالکننده دارد، یکی از قربانیان این ماجراست. او هنگام انتشار مطالبی درباره همهپرسی آلبرتا متوجه شد ویدئوهای جعلی در فضای مجازی منتشر شدهاند که چهره او را نشان میدهند، اما با صدای تولیدشده توسط هوش مصنوعی، جملاتی را به او نسبت میدهند که هرگز بیان نکرده است.
بنت تنها قربانی نیست. پژوهشگران مرکز رسانه، فناوری و دموکراسی دانشگاه مکگیل شبکهای متشکل از دستکم ۲۹۳ حساب کاربری در تیکتاک و اینستاگرام شناسایی کردهاند که از فناوری دیپفیک برای انتشار محتوای سیاسی تفرقهانگیز استفاده میکنند.
این حسابها ویدئوهای واقعی اینفلوئنسرها را دستکاری کرده و با افزودن صداهای مصنوعی و اظهارات ساختگی، مخاطبان را فریب میدهند. تنها طی سه ماه، حدود ۳۰۰۰ ویدئوی منتشرشده از این حسابها بیش از ۲۰ میلیون بار دیده شده است.
این اطلاعات جعلی رویدادهای سیاسی مختلفی از جمله همهپرسی آلبرتا، انتخابات بریتیش کلمبیا و کبک و انتخابات میاندورهای آمریکا را هدف قرار دادهاند. پژوهشگران نتوانستهاند گردانندگان این شبکه را شناسایی کنند، اما احتمال میدهند خارج از آمریکای شمالی، شاید در شرق یا جنوب آسیا، فعالیت داشته باشند.
این مطالعه هشدار میدهد که چنین کارزارهایی با هدف ایجاد اختلاف میان کاناداییها و تحریک افکار عمومی علیه آمریکا، دولت خودشان و حتی یکدیگر طراحی شدهاند.
دولت فدرال کانادا اقداماتی برای مقابله با اطلاعات نادرست انجام داده است، اما کارشناسان معتقدند این اقدامات کافی نیستند.
موهیت راجهانس، متخصص رسانه و فناوری، میگوید شرکتهای شبکههای اجتماعی به دلیل مدل تجاری خود با مشکلات جدی روبهرو هستند. همان فناوری هوش مصنوعی که کاربردهای مفید دارد، میتواند بهراحتی برای تولید محتوای مخرب نیز استفاده شود.
کارشناسان خواستار همکاری نزدیکتر دولتها و شرکتهای فناوری، نظارت مؤثرتر و پاسخگو کردن عاملان این اقدامات هستند.