هشدار بنیانگذار OpenAI : به ChatGPT خیلی اعتماد نکنید!
سم آلتمن، مدیرعامل شرکت OpenAI و خالق ChatGPT، در نخستین قسمت از پادکست جدید این شرکت، هشدار داد که مردم نباید بیش از حد به ChatGPT اعتماد کنند. اگرچه آلتمن همواره از مزایای هوش مصنوعی دفاع کرده است، این بار صریحاً درباره خطرات «توهمات هوش مصنوعی» صحبت کرد—پدیده‌ای که در آن مدل‌های هوش مصنوعی مانند ChatGPT اطلاعات نادرست یا ساختگی ارائه می‌دهند.
آلتمن گفت: مردم اعتماد بسیار بالایی به ChatGPT دارند، در حالی که نباید خیلی به آن اعتماد کرد. به گفته او، گاهی ChatGPT با اطمینان کامل پاسخی دقیق و زیبا می‌دهد، در حالی که آن پاسخ می‌تواند کاملاً ساختگی باشد، مثلاً در مورد اصطلاحاتی که اصلاً وجود ندارند.
در ادامه، آلتمن تجربه شخصی خود را نیز به اشتراک گذاشت و گفت از زمانی که پدر شده، به‌شدت به ChatGPT وابسته شده است. با این حال، تأکید کرد که مجبور شده به خودش یادآوری کند که ChatGPT همیشه درست نمی‌گوید.
او هشدار داد که باید میان استفاده روزمره از هوش مصنوعی و سپردن قدرت تصمیم‌گیری به آن تفاوت قائل شد.
در ادامه این گفت‌وگو، مسایل مهم دیگری مانند حفظ حریم خصوصی داده‌ها، شفافیت، و نحوه کسب درآمد از ابزارهای هوش مصنوعی نیز مطرح شد. آلتمن اشاره کرد که OpenAI در حال کار روی ویژگی‌هایی مانند «حافظه پایدار» و مدل‌های درآمدی مبتنی بر تبلیغات است، اما در عین حال بر حفظ اعتماد کاربران تأکید دارد.
این سخنان در حالی بیان می‌شود که OpenAI درگیر دعوای حقوقی با روزنامه نیویورک تایمز به‌دلیل استفاده بدون مجوز از محتوای دارای حق‌تألیف در داده‌های آموزشی مدل‌های خود است. موضوعی که بار دیگر تضاد میان نوآوری در حوزه هوش مصنوعی و رعایت استانداردهای اخلاقی را به مرکز توجه رسانده است.
ChatGPT یک نوع هوش مصنوعی است که می‌تواند مثل انسان‌ها گفت‌وگو کند. هر مطلبی از او خواسته یا پرسیده شود، از طریق نوشتاری یا گفتاری، تلاش می‌کند با استفاده از اطلاعات زیادی که از قبل آموخته، به آن پاسخ دهد. این پاسخ‌ها می‌توانند درباره موضوعات علمی، ترجمه، نوشتن متن، حل مسئله و حتی سرگرمی باشند.
ChatGPT در سال 2022 از سوی شرکت آمریکایی OpenAI عرضه شد. این سامانه با بهره‌گیری از مدل‌های پیشرفته زبانی مانند GPT-4o آموزش دیده و با بازخورد انسان‌ها بهبود یافته است.
این سامانه ابتدا به‌صورت رایگان عرضه شد، اما اکنون مدل‌های مختلفی با امکانات بیشتر در قالب اشتراک پولی ارائه می‌شود.
