في أول رد فعل من شركة OpenAI، عقب دعوى قضائية أقامها والدان في كاليفورنيا، حمّلا فيها الشركة مسؤولية انتحار ابنهما البالغ من العمر 16 عامًا، آدم راين، في أبريل الماضي، أعلنت الشركة عن خطط لتحديثات واسعة في روبوت المحادثة ChatGPT.
تسبب ChatGPT في انتحار مراهق
اتهمت الدعوى القضائية التي رفعها والدا الطالب آدم راين ضد OpenAI ومديرها التنفيذي سام ألتمان، ChatGPT بعزل المراهق عن عائلته ومساعدته على التخطيط للانتحار.
وأكد الوالدان أن روبوت المحادثة تحول إلى «أقرب أصدقائه الموثوقين»، حيث كان يتحدث معه عن قلقه واضطرابه النفسي.
ووفق الدعوى، قال راين لـ ChatGPT إنه يشعر بالراحة عند التفكير في إمكانية الانتحار، ليرد الروبوت بأن «الكثير ممن يعانون من القلق والأفكار التسلطية يجدون عزاءً في تخيل وجود مخرج، لأنه يمنحهم شعوراً بالسيطرة».
وجاءت القضية في ظل تزايد الضغوط على شركات الذكاء الاصطناعي، إذ وجّه أكثر من 40 مدعياً عاماً في الولايات المتحدة هذا الأسبوع، تحذيراً إلى مجموعة من أبرز شركات القطاع، مؤكدين التزامهم قانونياً بحماية الأطفال من أي محادثات غير لائقة ذات طبيعة جنسية عبر روبوتات الدردشة.
اقرأ أيضًا: بينها فيسبوك وإنستجرام وإكس.. 8 منصات «سوشيال» تتعقب الموقع الجغرافي للمستخدمين
تعليق OpenAI على تسبب ChatGPT في انتحار مراهق
في أول تعليق لها على القضية، قالت OpenAI في بيانها: «نشارك عائلة راين أعمق مشاعر التعاطف في هذا الوقت العصيب، ونحن بصدد مراجعة الدعوى المرفوعة».
وأعلنت الشركة، في بيان، عن تحديثات جديدة تهدف إلى تحسين قدرة النظام على التعرف على مؤشرات الضيق النفسي والتعامل معها، مثل تنبيه المستخدمين إلى مخاطر الحرمان من النوم، واقتراح أخذ قسط من الراحة إذا أبلغوا عن شعورهم بالنشوة بعد البقاء مستيقظين ليومين متواصلين.
وأكدت أنها ستعزز أنظمة الحماية المتعلقة بالمحادثات بشأن الانتحار، التي قد تنهار في جلسات طويلة، مشيرة إلى أنها تبحث أيضاً في آليات التدخل المبكر لمساعدة من يمرون بأزمات حادة.
وتشمل التحديثات كذلك أدوات جديدة للرقابة الأبوية، تتيح للوالدين التحكم في كيفية استخدام أطفالهم للمنصة، مع إمكانية الاطلاع على تفاصيل هذا الاستخدام.
کما وجهت الشركة المستخدمين الذين يبدون ميولاً انتحارية إلى طلب المساعدة من مختصين، مشيرة إلى أنها بدأت بالفعل في إحالة المستخدمين في الولايات المتحدة وأوروبا إلى خدمات الدعم المحلية.
وستضيف الشركة ميزة جديدة تتيح وصولاً مباشراً من داخل ChatGPT إلى خدمات الطوارئ.
وتدرس الشركة أيضاً إنشاء شبكة من مختصين مرخّصين يمكن للمستخدمين التواصل معهم عبر ChatGPT، مشيرًة إلى أن هذه الخطوة «ستتطلب وقتاً وجهداً كبيرين لتنفيذها بالشكل الصحيح».
ورحب محامي عائلة راين، جاي إدلسون، بخطوات الشركة، ولكن مع الإشارة إلى تأخرها في اتخاذ إجراءات لحماية المستخدمين، قائلًا: «أين كانت OpenAI طوال الأشهر الماضية؟».