ابزار استناد رویکرد جدیدی برای محتوای قابل اعتماد مبتنی بر هوش مصنوعی ارائه می‌دهد
چند کارایی چت‌بات‌ها
چت‌بات‌ها کارهای زیادی می‌توانند انجام دهند: مثل دیکشنری، مشاور، شاعر و دوست همه‌چیزدان. مدل‌های هوش مصنوعی که این سیستم‌ها را راه می‌اندازند، در ارائه پاسخ‌ها و توضیح مفاهیم بسیار ماهر هستند. اما چطور می‌توانیم بفهمیم که اطلاعاتی که این مدل‌ها تولید می‌کنند، واقعی، ناشی از توهم یا سوتفاهم است؟
چگونه ContextCite کمک می‌کند؟
بسیاری از سیستم‌های هوش مصنوعی هنگام پاسخ به سوالات، اطلاعات خارجی را به عنوان زمینه استفاده می‌کنند. به‌عنوان مثال، برای پاسخ به سوالی درباره یک بیماری، ممکن است به مقالات تحقیقاتی جدید در این زمینه ارجاع دهند. حتی با داشتن این زمینه مرتبط، مدل‌ها می‌توانند با اعتماد به نفس بالایی اشتباه کنند. برای حل این مشکل، محققان MIT ابزار ContextCite را ایجاد کردند که می‌تواند قسمت‌های مرتبط از منابع خارجی که برای تولید یک بیان خاص استفاده شده را شناسایی کند. این کار باعث افزایش اعتماد کاربران با امکان بررسی آسان‌تر مطالب می‌شود.
چگونه کار می‌کند؟
زمانی که یک کاربر سوالی می‌پرسد، ContextCite منابع خاصی را که هوش مصنوعی برای پاسخ استفاده کرده، مشخص می‌کند. اگر هوش مصنوعی یک اطلاعات نادرست ارائه دهد، کاربران می‌توانند خطا را به منبع اصلی پیوند بزنند و دلایل مدل را درک کنند. اگر هوش مصنوعی به یک پاسخ توهمی برسد، ContextCite نشان می‌دهد که این اطلاعات از هیچ منبع واقعی نشأت نگرفته است.
مزایای ContextCite
علاوه بر ردیابی منابع، ContextCite می‌تواند کیفیت پاسخ‌های هوش مصنوعی را با شناسایی و حذف زمینه‌های غیرضروری بهبود بخشد. همچنین این ابزار می‌تواند به شناسایی “حملات مسموم‌کننده” کمک کند، جایی که افراد بدخواه سعی می‌کنند با وارد کردن جملات ناقص، رفتار هوش مصنوعی را به سمت اشتباه هدایت کنند.
چالش‌ها و نیاز به بهبود
مدل فعلی نیاز به چندین بار استنتاج دارد و تیم در حال کار بر روی ساده‌سازی این فرآیند است. پیچیدگی ذاتی زبان نیز باید در نظر گرفته شود، زیرا برخی جملات به شدت به هم مرتبط هستند و حذف یک جمله می‌تواند معنا را دچار اختلال کند.
نتیجه‌گیری
ContextCite تلاشی برای ایجاد اعتماد در محتواهای هوش مصنوعی و تقویت دقت اطلاعات است که می‌تواند در صنایع حساس مانند بهداشت و درمان، قانون و آموزش بسیار موثر باشد.
منبع: news.mit.edu
