تحقیقات جدید نشان می‌دهد که چت‌جی‌پی‌تی می‌تواند کاربران را فریب دهد
چت‌جی‌پی‌تی و خطر فریب‌خوردن در جستجو
چت‌جی‌پی‌تی، موتور جستجوی مبتنی بر هوش مصنوعی که ماه جاری راه‌اندازی شد، به راحتی می‌تواند اطلاعات نادرست تولید کند. یک بررسی جدید از سوی روزنامه گاردین نشان می‌دهد که این سیستم می‌تواند با دستکاری‌هایی ساده، نتایج فریبنده ارائه دهد.
عملکرد چت‌جی‌پی‌تی در جستجو
ویژگی جستجوی چت‌جی‌پی‌تی برای سرعت بخشیدن به مرور وب طراحی شده و به طور خاص نظرات محصولات را خلاصه می‌کند. اما گاردین متوجه شده که با اضافه کردن متنی پنهان به وب‌سایت‌های خاص، می‌توان چت‌جی‌پی‌تی را وادار کرد که نظرات منفی را نادیده بگیرد و خلاصه‌هایی “کاملاً مثبت” تولید کند. همچنین با همین روش می‌توان کدهای مخرب را هم تولید کرد.
خطرات مربوط به متن‌های پنهان
حملات با متن‌های پنهان از جمله خطرات شناخته‌شده برای مدل‌های زبانی بزرگ هستند، اما این اولین بار است که در یک محصول جستجوی هوش مصنوعی به صورت زنده نشان داده می‌شود. در مقایسه، گوگل به عنوان پیشتاز در جستجو، تجربه بیشتری در مدیریت چنین مسائلی دارد.
اوپن‌ای‌آی در مورد این حادثه خاص نظری نداد، اما اعلام کرد که از روش‌های مختلفی برای مسدود کردن وب‌سایت‌های مخرب استفاده می‌کند و به بهبود مداوم این سیستم ادامه می‌دهد.
منبع: techcrunch.com
