استمرارًا في التوجه العام لمنع صغار السن من الوصول إلى المنصات والأدوات المتقدمة بصفتهم بالغين، طرحت شركة OpenAI مؤخرًا أداة للتنبؤ بسن مستخدم ChatGPT لتحديد ما إذا كان المستخدم قاصرًا أم لا.
تقول الشركة في بيان الإطلاق: ” نقدم خدمة التنبؤ بالعمر في باقات ChatGPT للمستهلكين للمساعدة في تحديد ما إذا كان الحساب يعود لشخص دون سن 18 عامًا. وذلك لضمان توفير تجربة مناسبة وحماية فعّالة للمراهقين”.
وفي حالة اكتشفت الأداة أن المستخدم سنه أقل من 18 عامًا. يتم تحويل حسابه من بالغ إلى قاصر مع فرض جميع القيود اللازمة عليه.
تقول OpenAI: ” يُعزز التنبؤ بالعمر إجراءات الحماية القائمة. فالمراهقون الذين يصرّحون بأن أعمارهم أقل من 18 عامًا عند التسجيل. يحصلون تلقائيًا على إجراءات حماية إضافية للحد من تعرضهم للمحتوى الحساس أو الضار. كما يتيح لنا ذلك التعامل مع البالغين كبالغين واستخدام أدواتنا بالطريقة التي يريدونها، ضمن حدود الأمان.”
كيف تعمل أداة التنبؤ بسن مستخدم ChatGPT؟
تعمل الأداة الجديد بشكل تنبؤي بناءًا على بعض المؤشرات التي تأخذها في الاعتبار من خلال متابعة سلوك ونشاط المستخدم لفترة زمنية.
تقول الشركة: “يعتمد النموذج على مزيج من المؤشرات السلوكية ومؤشرات الحساب. بما في ذلك مدة إنشاء الحساب، وأوقات النشاط المعتادة. وأنماط الاستخدام بمرور الوقت، والعمر المُعلن للمستخدم”.
ولكن هذه الأداة ليست دقيقة بنسبة 100% وبالتأكيد يوجد احتمال خطأ في حساب عمر المستخدم. وقد يتم تعيين حسابات بعض البالغين بصفتهم قُصر. لكن OpenAI تضع ذلك في الإعتبار وتوفر طريقة لتأكيد سن المستخدم الحقيقي عن طريق رفع صورة سيلفي له عبر Persona.
تقول OpenAI: ” سيتمكن المستخدمون الذين تم تصنيفهم خطأً ضمن فئة “أقل من 18 عامًا” من تأكيد أعمارهم واستعادة صلاحياتهم الكاملة بسهولة وسرعة عبر صورة شخصية (سيلفي) من خلال Persona، وهي خدمة آمنة للتحقق من الهوية. يمكن للمستخدمين التحقق من إضافة إجراءات الحماية إلى حساباتهم وبدء هذه العملية في أي وقت من خلال الانتقال إلى الإعدادات > الحساب.”
أخيرًا توضح الشركة أنه عندما يحدد نموذج التنبؤ بالعمر أن حسابًا ما قد يكون لشخص دون سن 18 عامًا، سيفرض ChatGPT تلقائيًا إجراءات حماية إضافية مصممة للحد من التعرّض للمحتوى الحساس، مثل:
- العنف الصريح أو المحتوى الدموي
- التحديات سريعة الانتشار التي قد تشجّع على سلوكيات خطيرة أو ضارة
- لعب الأدوار الجنسية أو الرومانسية أو العنيفة
- تصوير إيذاء النفس
- المحتوى الذي يروّج لمعايير جمال مُفرطة، أو حميات غذائية غير صحية، أو التنمّر على شكل الجسم.
وتوضح الشركة أن هذا النهج يستند إلى آراء الخبراء، ويرتكز على الدراسات الأكاديمية في علم نمو الطفل، والاختلافات المعروفة بين المراهقين في إدراك المخاطر. والتحكّم في الانفعالات، وتأثير الأقران، والتنظيم العاطفي.
أخيرًا، يأتي إطلاق أداة التنبؤ بسن مستخدم ChatGPT هذه بعد زيادة معدلات الحوادث بسبب استخدام صغار السن لحسابات بالغين. ما أدى لوقوع بعض الحوادث، أشهرها انتحار مراهق بعد مساعدة ChatGPT له للتخطيط لانتحاره.
