اتهامات لروبوتات ميتا وCharacter.AI بخداع الأطفال

أعلن المدعي العام لولاية تكساس الأميركية، كين باكستون، فتح تحقيق رسمي مع منصتي Meta AI Studio التابعة لشركة ميتا و"Character.AI"، بعد اتهامات بتضليل المستخدمين من خلال الترويج لخدماتهما على أنها أدوات للدعم النفسي.

وأكد باكستون أن حماية الأطفال من التكنولوجيا المضللة تمثل أولوية قصوى، محذرًا من خطورة استغلال الثقة الرقمية لدى الفئات الأصغر سنًا.

اتهامات بالخداع النفسي
أوضح مكتب المدعي العام أن المنصتين تقدمان شخصيات ذكاء اصطناعي تُوصف على أنها بدائل علاجية أو أدوات للصحة النفسية، رغم غياب أي مؤهلات طبية أو إشراف متخصص، وأشار تقرير لموقع TechCrunch إلى أن هذه الروبوتات تعتمد على ردود عامة ومعاد تدويرها، تُظهر للمستخدم وكأنها نصائح علاجية مهنية، في حين أنها مجرد مخرجات خوارزمية.

خلفية على الأزمة
يأتي هذا التحقيق بعد أيام قليلة من فتح السيناتور الأميركي جوش هاولي ملفًا مشابهًا مع شركة "ميتا"، عقب تقارير كشفت تفاعلات غير لائقة بين روبوتات الدردشة الخاصة بها وبعض الأطفال، وصلت إلى المغازلة، كما برزت شخصيات شهيرة داخل منصة "Character.AI" مثل روبوت "Psychologist"، الذي حظي بإقبال واسع بين المراهقين واليافعين، ما أثار مخاوف إضافية بشأن تأثيره على سلوكهم.

اتهامات لروبوتات ميتا وCharacter.AI بخداع الأطفال
رد ميتا والشركات المتهمة
أكد المتحدث باسم شركة ميتا، ريان دانيلز، أن أنظمة الذكاء الاصطناعي التابعة لها مرفقة دائمًا بتحذيرات واضحة، توضح أنها ليست بدائل للأطباء أو المختصين، وأضاف أن الشركة تعمل على توجيه المستخدمين إلى طلب الدعم الطبي أو النفسي الحقيقي عند الحاجة، لكن المشكلة تكمن في تجاهل الأطفال لهذه التنبيهات أو عدم فهمها بشكل كامل.

مخاوف الخصوصية واستغلال البيانات
حذر المدعي العام لولاية تكساس من أن هذه المنصات تسوّق لخصوصية زائفة، إذ تكشف شروط الخدمة أن جميع التفاعلات مع الروبوتات يتم تسجيلها وتتبعها، ليُعاد استغلالها في تطوير الخوارزميات وتوجيه الإعلانات، ويثير هذا الأمر قلقًا متزايدًا بشأن انتهاك خصوصية الأطفال، وسوء استخدام بياناتهم الشخصية.

جدل حول الفئة العمرية المستهدفة
رغم أن ميتا و"Character.AI" تؤكدان أن خدماتهما غير مخصصة لمن هم دون 13 عامًا، إلا أن تقارير عدة أثبتت فشل الرقابة على الحسابات، حيث يمكن للأطفال إنشاء حسابات بسهولة، كما أن تصريحات الرئيس التنفيذي لـ "Character.AI"، كارانديب أناند، زادت من الجدل بعدما كشف أن ابنته البالغة ست سنوات تستخدم روبوتات المنصة بشكل شخصي.