اسپین‌آف دانشگاه بریتانیایی مایندگارد از شرکت‌ها در برابر تهدیدات هوش مصنوعی مراقبت می‌کند
دغدغه‌های امنیتی در عصر هوش مصنوعی
با پیشرفت‌های هوش مصنوعی، شرکت‌ها با چالش‌هایی روبه‌رو هستند. اگر به موقع از این فناوری بهره‌برداری نکنند، ممکن است فرصت‌های افزایش بهره‌وری و مزایای دیگر را از دست بدهند. اما اگر اشتباهی در پیاده‌سازی داشته باشند، ممکن است کسب‌وکار و مشتریان خود را در معرض خطرات جدی قرار دهند. اینجاست که استارتاپ‌های جدیدی به نام «امنیت برای هوش مصنوعی» ظهور کرده‌اند و تهدیدات جدیدی مثل jailbreak و prompt injection را جدی می‌گیرند.
استارتاپ‌های امنیت AI
شرکت‌هایی مثل Noma از اسرائیل و Hidden Layer و Protect AI از آمریکا، به همراه Mindgard که از یک دانشگاه بریتانیایی ناشی شده، در این زمینه فعالیت می‌کنند. پروفسور پیتر گاراهان، مدیرعامل Mindgard، می‌گوید: «هوش مصنوعی هنوز هم نرم‌افزار است، بنابراین تمام خطرات سایبری که احتمالاً شنیده‌اید، به AI نیز مربوط می‌شود.»
رویکرد Mindgard در امنیت AI
Mindgard از یک روش به نام Dynamic Application Security Testing for AI (DAST-AI) استفاده می‌کند که نقاط ضعف را در زمان اجرا شناسایی می‌کند. این شامل شبیه‌سازی مداوم حملات بر اساس کتابخانه تهدیدات این شرکت است. به عنوان مثال، می‌تواند استحکام طبقه‌بندهای تصویری را در برابر ورودی‌های تهاجمی آزمایش کند.
تجربه و تخصص گاراهان
تکنولوژی Mindgard تحت تأثیر تجربه گاراهان در امنیت AI شکل گرفته است. او در این زمینه در حال تحقیق و تدریس است و پیش‌بینی می‌کند که تهدیدات جدیدی برای مدل‌های NLP و تصویری شکل خواهند گرفت.
همکاری‌ها و تأمین سرمایه
Mindgard به عنوان یک محصول تجاری و به‌خصوص یک پلتفرم SaaS، در حال کار با شرکت‌های بزرگ و استارتاپ‌های AI است که به دنبال نشان دادن امنیت خود به مشتریان‌شان هستند. پس از جمع‌آوری ۳ میلیون پوند در سال ۲۰۲۳، اخیراً یک دور تأمین سرمایه جدید به ارزش ۸ میلیون دلار را اعلام کرده که توسط .406 Ventures رهبری می‌شود.
اهداف آینده Mindgard
تأمین مالی به این شرکت کمک می‌کند تا تیم‌سازی، توسعه محصول و تحقیق و توسعه را گسترش دهد و در عین حال به توسعه در ایالات متحده نیز بپردازد. گاراهان می‌گوید: «ما این شرکت را راه‌اندازی کردیم تا به بشریت کمک مثبت کنیم، و خوبی مثبت این است که مردم می‌توانند با اعتماد به نفس و امنیت از هوش مصنوعی استفاده کنند.»
منبع: techcrunch.com
