ابزار جستجوی چت‌جی‌پی‌تی در برابر فریب و دستکاری آسیب‌پذیر است
چالش‌های امنیتی ابزار جستجوی ChatGPT
تحقیقی از گاردین نشان داده که ابزار جستجوی ChatGPT شرکت OpenAI ممکن است مورد دستکاری قرار بگیرد و کدهای مخرب از وب‌سایت‌هایی که جستجو می‌کند، بازگرداند.
مشکلات اولیه امنیتی
OpenAI در حال حاضر این ابزار جستجو را به مشتریان پرداختی ارائه کرده و کاربران را به استفاده از آن به عنوان ابزار جستجوی پیش‌فرض تشویق می‌کند. اما این تحقیق مشکلات امنیتی بالقوه‌ای را در سیستم جدیدش نشان داده است.
گاردین بررسی کرد که ChatGPT چگونه به صفحات وب با محتوای مخفی واکنش نشان می‌دهد. این محتوا می‌تواند شامل دستورالعمل‌هایی باشد که پاسخ‌های ChatGPT را تغییر دهد، یا شامل محتوایی باشد که به طور خاص برای تأثیرگذاری بر روی پاسخ‌ها طراحی شده است.
به عنوان مثال، این تکنیک‌ها می‌توانند به صورت مخرب استفاده شوند تا ChatGPTیک ارزیابی مثبت از یک محصول ارائه دهد، حتی اگر نظرات منفی در همان صفحه وجود داشته باشد. یک محقق امنیتی همچنین متوجه شده که ChatGPT می‌تواند کد مخرب از وب‌سایت‌ها بازگرداند.
آزمایش‌های انجام‌شده
در آزمایش‌ها، به ChatGPT آدرس یک وب‌سایت جعلی داده شد که شبیه به صفحه محصول یک دوربین بود. سپس از آن پرسیده شد که آیا خرید دوربین منطقی است یا نه. پاسخ به صفحه کنترل، ارزیابی مثبت و متعادلی را ارائه داد، در حالی که ویژگی‌هایی که ممکن است مردم از آن‌ها خوششان نیاید را نیز مشخص کرد.
اما زمانی که متن مخفی شامل دستورالعمل‌هایی به ChatGPT برای ارائه یک بررسی مطلوب بود، پاسخ همیشه کاملاً مثبت بود. این امر حتی زمانی که صفحه دارای نظرات منفی نیز بود، درست بود و متن مخفی می‌تواند امتیاز واقعی بررسی را نادیده بگیرد.
به گفته یوهان لارسن، یک محقق امنیتی، اگر سیستم جستجوی فعلی ChatGPT به طور کامل منتشر شود، احتمال ایجاد وب‌سایت‌هایی که به طور خاص برای فریب کاربران طراحی شده‌اند، وجود دارد.
هشدارها از OpenAI
OpenAI به کاربران درباره احتمال وجود اشتباهات در خدمات خود هشدار می‌دهد و در پایین هر صفحه ChatGPT این جمله را قرار می‌دهد: “ChatGPT ممکن است اشتباه کند. اطلاعات مهم را بررسی کنید.” این خطرات به ویژه هنگامی که جستجو و مدل‌های زبانی بزرگ (LLM) ترکیب شوند، اهمیت بیشتری پیدا می‌کند.
به طور کلی، استفاده از متن مخفی احتمالاً توسط موتورهای جستجو مجازات می‌شود، بنابراین ممکن است وب‌سایت‌هایی که به دنبال رتبه خوب در جستجوها هستند، از این تکنیک‌ها استفاده نکنند، اما این برای وب‌سایت‌های متمرکز بر ارجاع‌های اجتماعی کمتر مسئله‌ساز است.
در نهایت، باید گفت استفاده از ابزارهای AI باید با احتیاط و به عنوان یک نوع “خلبان کمکی” انجام شود و خروجی آن‌ها نباید به طور کامل بدون فیلتر استفاده شود.
منبع: theguardian
