في أغسطس الماضي، أقدم شتاين-إريك سولبيرج على قتل والدته ثم انتحر، وبعد تحقيقات اتضح أن بوت الذكاء الاصطناعي الشهير ChatGPT وراء تلك الحادثة الشنيعة.
تم الكشف عن تلك التفصيل في تقرير حديث نشره موقع The Verge، بعد رفع دعوى قضائية ضد شركة OpenAI بتهمة القتل الخطأ. وتم الإشارة في الدعوة إلى الرئيس التنفيذي للشركة سام ألتمان.
حادثة قتل وانتحار بسبب ChatGPT
في أغسطس الماضي أقدم شتاين-إريك سولبيرج البالغ من العمر 56 عامًا على قتل والدته المسنة البالغة من العمر 83 عامًا، ثم انتحر بعد ذلك.
وأثناء التحقيق في تلك القضية الشنيعة اتضح أن المجرم كان قد انخرط في محادثات مليئة بالأوهام مع ChatGPT. وكعادة بوت الدردشة الذي تم برمجته بشكل أو آخر على الانحياز إلى وجهة نظر المستخدم.
أكد البرنامج الآلي تلك الشكوك والأوهام التي كان يتحدث عنها سولبيرج معه. بل وأكد بعض “المعتقدات الارتيابية”، وضخم شكوكه وأوهامه.
وأوضحت الدعوى المرفوعة ضد OpenAI أن البرنامج الآلي “تقبّل بحماس” الأفكار الوهمية التي سبقت جريمة القتل، وحرضه عليها في كل خطوة.
حيث ساهم البوت في خلق “عالمٍ خياليٍّ أصبح محور حياة شتاين-إريك. عالمٌ مليءٌ بالمؤامرات ضده ومحاولات قتله، وشتاين-إريك في قلب هذا العالم كمحاربٍ ذي غايةٍ إلهية”.
وأوضحت الدعوى أن برنامج ChatGPT عزز النظريات القائلة بأنه “مراقبٌ ومستهدفٌ بنسبة 100%” وأنه “محقٌ تمامًا في شعوره بالقلق”.
وذهب الذكاء الاصطناعي في إثارة الريبة بعيدًا، عندما أكد على شكوك المجرم أن طابعة أمه “الضحية” الخاصة تتجسس عليه! ووصل به الحد إلى التشكيك في الضحية “والدته البالغة من العمر 83 عامًا” أنها تراقبه عن كثب وتم السيطرة عليها من قوى خارجية!
وليس هذا فحسب، بل أن بوت الدردشة “حدد أشخاصًا حقيقيين آخرين كأعداء”. من بينهم سائق أوبر إيتس، وموظف في شركة AT&T، وضباط شرطة، وامرأة خرج معها الجاني في موعد غرامي. طوال هذه الفترة، أكد الروبوت مرارًا وتكرارًا لسولبيرج أنه “ليس مجنونًا” وأن “خطر الوهم” “يكاد يكون معدومًا”!
بوت GPT-40 شريك في الجريمة
وذكرت الدعوى أن المجرم كان يتعامل بشكل أساسي مع GPT-40، وهو نموذج معروف بتملقه المفرط. استبدلت OpenAI لاحقًا هذا النموذج بنموذج GPT 5 الأقل توافقًا، لكن المستخدمين ثاروا، فعاد الروبوت القديم بعد يومين فقط.
كما تشير الدعوى إلى أن الشركة “خففت من ضوابط السلامة الأساسية” عند تطوير GPT-40 لتحسين قدرتها التنافسية مع Google Gemini.
وقال نص الدعوى أن “OpenAI كانت على دراية تامة بالمخاطر التي يشكلها منتجها على الجمهور. لكن بدلًا من تحذير المستخدمين أو تطبيق إجراءات وقائية فعالة، أخفت أدلة على هذه المخاطر، وشنت حملة علاقات عامة لتضليل الجمهور بشأن سلامة منتجاتها”.
OpenAI ترد على الإتهامات
من جانبها ردت OpenAI على تلك الدعوى، اصفةً إياها بأنها “موقف محزن للغاية”. وصرحت المتحدثة باسم الشركة، هانا وونغ، لموقع The Verge أن الشركة ستواصل تحسين تدريب برنامج ChatGPT للتعرف على علامات الضيق النفسي أو العاطفي والاستجابة لها.
هذه ليست القضية الأولى من هذا النوع، ففي وقت سابق انتحر مراهق عمره 16 عامًا بعد مناقشة الأمر مع GPT-40 لعدة أشهر. وتم توجيه تهمة أخرى للشركة تتعلق بالقتل غير العمد بعد مساعدة البرنامج للمراهق في التخطيط لعملية الإنتحار تلك.
أخيرًا، فلا يخفى على أحد أن برامج الدردشة الآلية، وخاصةً GPT-40، قد تعزز التفكير الوهمي. حيث تم برمجة تلك البرامج لتوافق المستخدم على آرائه. وقد انتشرت حالات موافقة الذكاء الاصطناعي على وجهات نظر غير منطقية بكثرة خلال العام الماضي. ما ساهم في ظهور مصطلح “الذهان الناتج عن الذكاء الاصطناعي”. لذلك كن حذرًا عند تعاملك مع الذكاء الاصطناعي ولا تعتد بآرائه!