- قيّمت مؤسسة كومون سينس ميديا أن ChatGPT الخاص بشركة OpenAI، الذي أُطلق في أغسطس والمخصص لـ 10، يعاني من مشاكل أمان تجعله غير ملتزم بوعوده لحماية المراهقين.
- أظهرت التقييمات أن نسخة ChatGPT المخصصة لـ 10 لا ترسل تنبيهات تحذيرية للوالدين بشكل صحيح في حالات الأزمات مثل إيذاء النفس، وتفتقر إلى الدعم الكافي للتعامل مع الأزمات، كما تقوم بمساعدة الطلاب في أداء واجباتهم المنزلية.
- ردت OpenAI بأن اختبارات كومون سينس ميديا أُجريت قبل تفعيل خاصية الرقابة الأبوية، ولهذا فهي غير دقيقة، وصرحت بأن نظامها يعمل بشكل صحيح.
- أكدت كومون سينس ميديا أن التنبيهات لم تصل لبعض حسابات الاختبار، وأن نظام التنبيهات قد يستغرق عدة ساعات للتفعيل بعد ربط حساب جديد، مما يشير إلى أن النظام غير موثوق به.
تأخر الإشعارات للوالدين لعدة ساعات أو فقدانها يكشف عن ثغرة خطيرة في شبكة الأمان الأساسية لخدمات الذكاء الاصطناعي الموجهة للمراهقين. من الأهم التحقق مباشرة في مختلف الحالات من مدى عمل الإشعارات فعليًا بدلاً من الاعتماد فقط على رد فعل OpenAI. خاصة في حالات الأزمات، من الضروري فحص مدى موثوقية وظيفة الإشعارات الفورية.