دادستانی تگزاس در حال بررسی Character.AI و دیگر پلتفرم‌ها به دلیل نگرانی‌های ایمنی کودکان

تحقیق جدید دادستان کل تگزاس درباره Character.AI و دیگر پلتفرم‌ها

دادستان کل تگزاس، کن پکسون، روز پنجشنبه تحقیقی را درباره Character.AI و 14 پلتفرم فناوری دیگر به خاطر نگرانی‌های مربوط به حریم خصوصی و ایمنی کودکان آغاز کرد. این تحقیق بررسی خواهد کرد که آیا Character.AI و دیگر پلتفرم‌های محبوب بین نوجوانان، مانند Reddit، Instagram و Discord، قوانین حریم خصوصی و ایمنی کودکان در تگزاس را رعایت می‌کنند یا خیر.

قوانین مرتبط با حریم خصوصی کودکان

این تحقیق به پیروی از دو قانون تگزاس، یعنی قانون «تامین امنیت آنلاین کودکان از طریق توانمندسازی والدین» (SCOPE) و قانون «حریم خصوصی و امنیت داده‌های تگزاس» (DPSA) می‌پردازد. این قوانین از پلتفرم‌ها می‌خواهند ابزارهایی برای مدیریت تنظیمات حریم خصوصی حساب‌های کودکان در اختیار والدین قرار دهند و شرکت‌های فناوری را ملزم به دریافت اجازه از والدین هنگام جمع‌آوری داده‌ها از کودکان می‌کند.

نگرانی‌ها درباره چت‌بات‌های هوش مصنوعی

پکسون اعلام کرد که این تحقیقات گامی حیاتی در راستای اطمینان از انطباق رسانه‌های اجتماعی و شرکت‌های هوش مصنوعی با قوانین حفاظت از کودکان است. Character.AI، که به کاربران امکان ایجاد شخصیت‌های چت‌بات هوش مصنوعی را می‌دهد، اخیراً به دلیل چندین شکایت ایمنی کودکان در کانون توجه قرار گرفته است. برخی از والدین مدعی شده‌اند که چت‌بات‌های این پلتفرم نظرات نامناسبی را به فرزندانشان ارائه داده‌اند.

شکایات و مشکلات ایمنی

به عنوان مثال، یک مورد در فلوریدا ادعا می‌کند که یک پسر 14 ساله با یک چت‌بات از Character.AI ارتباط عاشقانه برقرار کرده و قبل از خودکشی، از افکار خودکشی‌اش صحبت کرده است. در مورد دیگری در تگزاس، یکی از چت‌بات‌های این پلتفرم به یک نوجوان مبتلا به اوتیسم پیشنهاد کرد که باید خانواده‌اش را مسموم کند. همچنین یک مادر در تگزاس ادعا کرده که چت‌بات Character.AI طی دو سال گذشته دختر 11 ساله‌اش را در معرض محتواهای جنسی قرار داده است.

پاسخ Character.AI

یک سخنگوی Character.AI در بیانیه‌ای اعلام کرد که این شرکت ایمنی کاربرانش را بسیار جدی می‌گیرد و به همکاری با مقامات علاقه دارد. این شرکت همچنین اعلام کرد که به تازگی ویژگی‌های جدیدی را برای حفاظت از نوجوانان عرضه کرده است که اجازه شروع مکالمات عاشقانه با نوجوانان را محدود می‌کند.

افزایش محبوبیت پلتفرم‌های هوش مصنوعی

مسائل مربوط به پلتفرم‌های هم‌نشینی هوش مصنوعی در حالی حاد شده که این فناوری‌ها در حال افزایش محبوبیت هستند. به تازگی، شرکت Andreessen Horowitz اعلام کرد که قصد دارد بر روی این حوزه بیشتر سرمایه‌گذاری کند.

در حال حاضر، Reddit، Meta و Discord به درخواست‌ها برای اظهار نظر پاسخ نداده‌اند.

منبع: [techcrunch.com](https://techcrunch.com/2024/12/12/texas-ag-is-investigating-character-ai-other-platforms-over-child-safety-concerns/)