استفاده احتمالاً بالای نسل صدای هوش مصنوعی ElevenLabs در عملیات نفوذ روسیه
استفاده نادرست از هوش مصنوعی تولیدی در عملیات‌های تاثیرگذاری
هوش مصنوعی تولیدی موارد نادرستی زیادی دارد، از تألیف مقالات علمی تقلبی تا کپی هنرمندان. اخیراً این فناوری در عملیات‌های تاثیرگذاری دولتی نیز مورد استفاده قرار گرفته است.
عملیات تحت تأثیر روسیه
طبق گزارشی از شرکت Recorded Future، یک کمپین مرتبط با روسیه با نام “عملیات زیر پا گذاشتن” که هدفش تضعیف حمایت اروپا از اوکراین بود، از محصولات تجاری تولید صدا با هوش مصنوعی، نظیر فناوری شرکت ElevenLabs، بسیار بهره برده است. این کمپین از صداهای تولید شده توسط هوش مصنوعی برای ویدیوهای جعلی یا گمراه‌کننده استفاده کرده است.
محتوای ویدیوها و تأثیرات آن
ویدیوها با هدف قرار دادن مخاطبان اروپایی، به شدت به مقامات اوکراینی حمله کرده و فساد آنها را زیر سوال بردند و همچنین به نوار امداد نظامی به اوکراین انتقاد کردند. برای مثال، یکی از ویدیوها ادعا می‌کرد که «حتی دستگاه‌های جمر نمی‌توانند تانک‌های آمریکایی آبرامز را نجات دهند»، که به نارسایی ارسال تسلیحات پیشرفته به اوکراین اشاره داشت.
گزارش بیان می‌کند که سازندگان ویدیو «به احتمال زیاد» از هوش مصنوعی تولید صدا، شامل فناوری ElevenLabs، استفاده کرده‌اند تا محتوای خود را واقعی‌تر جلوه دهند. محققان Recorded Future نمونه‌ها را به کلاسفایر صوتی ElevenLabs ارائه کردند و تأیید شد که این صداها توسط هوش مصنوعی تولید شده‌اند.
واکنش ElevenLabs و سیاست‌های آنها
ElevenLabs به درخواست‌های برای اظهار نظر پاسخ نداد. این شرکت اعلام کرده که هرگونه «شخصیت‌سازی غیرمجاز، مضر یا فریبنده» را ممنوع کرده و از ابزارهای مختلفی برای اجرای این سیاست استفاده می‌کند.
رشد روزافزون ElevenLabs
از زمان تأسیس در سال 2022، ElevenLabs رشد چشمگیری داشته و اخیراً به ارزش 80 میلیون دلار از 25 میلیون دلار کمتر از یک سال پیش دست یافته است. این شرکت ممکن است به زودی به ارزشی معادل 3 میلیارد دلار برسد.
منبع: techcrunch.com
