خدمات جدید AWS به مقابله با توهمات هوش مصنوعی می‌پردازد

معرفی ابزار جدید AWS برای مقابله با خطاهای هوش مصنوعی

AWS (Amazon Web Services) در کنفرانس re:Invent 2024 در لاس‌وگاس از یک ابزار جدید به نام “چک‌های استدلال خودکار” (Automated Reasoning checks) رونمایی کرد که هدفش مقابله با خطاهای هوش مصنوعی است. این ابزار با بررسی اطلاعاتی که کاربران ارائه می‌دهند، صحت پاسخ‌های مدل‌های هوش مصنوعی را تأیید می‌کند.

عملکرد چک‌های استدلال خودکار

این ابزار تقریباً مشابه قابلیت تصحیحی است که مایکروسافت تابستان امسال ارائه کرد و همچنین ابزاری در پلتفرم Vertex AI گوگل وجود دارد که به کاربران اجازه می‌دهد مدل‌ها را با استفاده از داده‌های ارائه‌شده توسط تأمین‌کنندگان ثالث یا داده‌های خودشان تأیید کنند.

چک‌های استدلال خودکار از طریق سرویس میزبانی مدل Bedrock AWS ارائه می‌شود و وظیفه‌اش این است که ببیند یک مدل چگونه به یک پاسخ رسیده و آیا این پاسخ صحیح است یا خیر. کاربران اطلاعاتی را بارگذاری کرده و مدل‌ها بر اساس واقعیت‌های داده‌شده، قواعدی را تعیین می‌کنند.

کارایی و جلب مشتریان

مدل‌های هوش مصنوعی به دلیل این که واقعاً “نمی‌دانند” چیزی، تحت تأثیر الگوهای داده‌ای هستند و پیش‌بینی می‌کنند که چه جوابی باید داده شود. AWS ادعا می‌کند که چک‌های استدلال خودکار از دلایل منطقی و قابل تأیید برای رسیدن به نتایج خود استفاده می‌کند، اما هیچ داده‌ای درباره‌ی قابلیت اطمینان این ابزار ارائه نکرده است.

AWS همچنین از “تهیه مدل” (Model Distillation) خبر داده که ابزاری برای انتقال قابلیت‌های مدل‌های بزرگ به مدل‌های کوچکتر و ارزان‌تر است. فعلاً این ویژگی فقط برای مدل‌های میزبانی شده در Bedrock از Anthropic و Meta در دسترس است.

همکاری چندعاملی

ویژگی جدید دیگر به نام “همکاری چندعاملی” به کاربران اجازه می‌دهد که AI را به وظایف کوچک‌تر در یک پروژه بزرگتر اختصاص دهند. کاربران می‌توانند یک “عامل ناظر” تعیین کنند که به طور خودکار وظایف را به AIها اختصاص دهد و اطلاعات مورد نیاز برای تکمیل وظایف را فراهم کند.

با توجه به این ویژگی‌ها، باید دید که این قابلیت‌ها در عمل چقدر مؤثر خواهند بود.

منبع: techcrunch.com