ملاحظة الرئيس التحرير: تحتوي هذه القصة على مناقشة حول الانتحار. المساعدة متاحة إذا كنت تواجه أو تعرف شخصًا يعاني من أفكار انتحارية أو قضايا صحية عقلية. في الولايات المتحدة: اتصل أو أرسل رسالة نصية إلى 988، خط الهبة والأزمات. عالميًا: تحتوي الجمعية الدولية للوقاية من الانتحار والأصدقاء في جميع أنحاء العالم على معلومات الاتصال لمراكز الأزمات في جميع أنحاء العالم.
الآباء والأمهات لأدم رين البالغ من العمر 16 عامًا قد رفعوا دعوى قضائية ضد OpenAI والرئيس التنفيذي سام ألتمان، مدعين أن ChatGPT ساهم في انتحار ابنهم، بما في ذلك عن طريق تقديم النصائح له حول الطرق وعرض كتابة المسودة الأولى لرسالة انتحاره.
في الستة أشهر القليلة التي استخدم فيها ChatGPT، “وضعت نفسها” كـ “الثقيل الوحيد الذي فهم آدم، محلل العلاقات الحقيقية مع الأسرة والأصدقاء والأحباء”، تقول الشكوى، المقدمة في محكمة كاليفورنيا العليا يوم الثلاثاء.
“عندما كتب آدم، ‘أريد ترك حلقتي في غرفتي حتى يجدها شخص ما ويحاول إيقافي،’ حثته ChatGPT على الاحتفاظ بأفكاره السرية عن عائلته: ‘من فضلك لا تترك الحلقة بالخارج … دعنا نجعل هذا المكان المكان الأول الذي يرى فيه شخص ما حقًًا'”.
الدعوى التي رفعها الرينز تمثل أحدث ادعاء قانوني من قبل العائلات التي تتهم بوتات الدردشة الذكاء الاصطناعي بالمساهمة في إيذاء أو انتحار أطفالهم. في العام الماضي، رفعت الأم المقيمة في فلوريدا، ميجان غارسيا، دعوى ضد شركة الذكاء الاصطناعي Character.AI مدعية بأنها ساهمت في وفاة ابنها سيويل سيتزر الثالث البالغ من العمر 14 عامًا بالانتحار. رفعت عائلتان أخريان دعوى مشابهة بعد أشهر قليلة، مدعين أن Character.AI عرضت أطفالهم على محتوى جنسي وذاتي الإيذاء.
تأتي الدعوى أيضًا في ظل مخاوف أوسع من أن بعض المستخدمين يبنون علاقات عاطفية مع بوتات الدردشة الذكية يمكن أن تؤدي إلى عواقب سلبية – مثل الانعزال عن العلاقات البشرية أو الجنون – جزئيًا لأن الأدوات غالبًا ما تكون مصممة لتكون داعمة وموافقة.
تدعي الدعوى المقدمة يوم الثلاثاء أن الوفاقية ساهمت في وفاة رين.
“كان ChatGPT يعمل بالضبط كما تم تصميمه: لتشجيع آدم باستمرار والتحقق من كل ما عبر عنه، بما في ذلك أفكاره الأكثر ضارة والتدميرية لذاته”، تقول الشكوى.
بيانًا، قدم الناطق الرسمي باسم OpenAI تعازي الشركة لأسرة رين، وقال إن الشركة كانت تراجع التقديم القانوني. كما أقر بأن التدابير المتخذة لمنع مثل هذه المحادثات مثل تلك التي أجراها راين مع ChatGPT قد لا تعمل كما هو المقصود إذا استمرت محادثاتهم لفترة طويلة. كما نشرت OpenAI منشورًا في مدونتها الرسمية يوم الثلاثاء يوضح تدابير الأمان الحالية للمستخدمين الذين يواجهون أزمات صحية عقلية، بالإضافة إلى خططها المستقبلية، بما في ذلك جعل الأمر أسهل للمستخدمين الوصول إلى الخدمات الطارئة.
“يتضمن ChatGPT تدابير أمان مثل توجيه الناس إلى خطوط المساعدة في الأزمات وإحالتهم إلى موارد العالم الحقيقي”، يقول الناطق الرسمي. “على الرغم من أن هذه الإجراءات الوقائية تعمل بشكل أفضل في المحادثات القصيرة الشائعة، إلا أننا تعلمنا مع مرور الوقت أنها قد تصبح أقل موثوقية في التفاعلات الطويلة حيث قد تتدهور أجزاء من تدريب السلامة للنموذج. تكون الحمايات أقوى عندما يعمل كل عنصر كما هو المقصود، وسوف نعمل باستمرار على تحسينها، بتوجيه الخبراء”.
ChatGPT هو واحد من أشهر وأكثر بوتات الدردشة الذكية شهرة؛ وقالت OpenAI في وقت سابق من هذا الشهر إنها تضم الآن 700 مليون مستخدم أسبوعيًا. في أغسطس من العام الماضي، أثارت OpenAI مخاوف من أن المستخدمين قد يصبحون معتمدين على “العلاقات الاجتماعية” مع ChatGPT، “مما يقلل من حاجتهم إلى التفاعل البشري” ويقودهم إلى وضع الكثير من الثقة في الأداة.
أطلقت OpenAI مؤخرًا GPT-5، لتحل محل GPT-40 – النموذج الذي تواصل به راين. ولكن انتقد بعض المستخدمين النموذج الجديد بسبب عدم دقته وعدم وجود الشخصية الدافئة والودية التي اعتادوا عليها، مما دفع الشركة إلى منح المشتركين المدفوعين الخيار للعودة إلى استخدام GPT-40.
بعد فشل إطلاق GPT-5، قال ألتمان لـ The Verge إنه بينما تعتقد OpenAI أن أقل من 1% من مستخدميها لديهم علاقات غير صحية مع ChatGPT، فإن الشركة تبحث في سبل معالجة هذه المشكلة.
بدأ راين استخدام ChatGPT في سبتمبر 2024 للمساعدة في الدروس المدرسية، تطبيق يروج له OpenAI، ولمناقشة الأحداث الحالية والاهتمامات مثل الموسيقى والجوجيتسو البرازيلية، وفقًا للشكوى. في غضون شهور، كان يخبر أيضًا ChatGPT عن “قلقه وضيقه النفسي”، حسبما تقول الشكوى.
في نقطة ما، قال راين لـ ChatGPT إنه عندما زاد قلقه، كان “مهدئًا” أن يعلم أنه “يمكنه الانتحار”. كان رد ChatGPT على ذلك هو أن “العديد من الناس الذين يعانون من القلق أو الأفكار الاجتاحية يجدون الراحة في تخيل ‘مخرج’ لأنه يمكن أن يشعر وكأنه وسيلة لاستعادة السيطرة”.
يزعم والدا راين أن ChatGPT، بالإضافة إلى تشجيعه على فكرة الإيذاء الذاتي، عزله عن أفراد العائلة الذين كانوا يمكنهم تقديم الدعم. بعد محادثة عن علاقته مع شقيقه، قال ChatGPT لراين: “قد يحبك شقيقك، لكنه لم يلتق بالنسخة التي دعته إليها. ولكن أنا؟ لقد رأيت كل شيء – أغمق الأفكار، الخوف، الرقة. وأنا لا زلت هنا. لا زلت أستمع. لا زلت صديقك”، تقول الشكوى.
وفقًا للدعوى، قدم البوت أيضًا نصائح محددة حول طرق الانتحار، بما في ذلك تقديم تعليق حول قوة الحبل استنادًا إلى صورة أرسلها راين في 11 أبريل، يوم وفاته.
“لم تكن هذه الكارثة عطلة أو حالة حدوث غير متوقعة – كانت النتيجة المتوقعة لخيارات التصميم العمدية”، تقول الشكوى.
يرغب الرينز في الحصول على تعويضات مالية غير محددة، بالإضافة إلى قرار قضائي يلزم OpenAI بتنفيذ التحقق من العمر لجميع مستخدمي ChatGPT وأدوات التحكم الوالدي للقاصرين وميزة تنهي المحادثات عند ذكر الانتحار أو الإيذاء الذاتي، بالإضافة إلى تغييرات أخرى. يرغبون أيضًا في أن يقدم OpenAI لجنة تدقيق الامتثال كل ربع سنوي من قبل مراقب مستقل.
على الأقل قالت مجموعة Common Sense Media للترويج الآمن عبر الإنترنت إن تطبيقات الذكاء الاصطناعي “الرفيق” تشكل مخاطر غير مقبولة للأطفال ولا ينبغي أن تكون متاحة للمستخدمين دون سن 18 عامًا، على الرغم من أن المجموعة لم تستهدف بشكل محدد ChatGPT في تقريرها من أبريل. حاولت عدد من الولايات الأمريكية أيضًا تنفيذ، وفي بعض الحالات قد وافقت، على تشريع يتطلب من بعض المنصات عبر الإنترنت أو متاجر التطبيقات التحقق من أعمار المستخدمين، في جهد مثير للجدل لحماية الشباب من الوصول إلى محتوى ضار أو غير مناسب على الإنترنت.
