موظف في أوبن إيه آي يستقيل ويطالب بوضع معايير نووية للسلامة في الذكاء الاصطناعي
استقال ديفيد روبنسون، الموظف السابق في فريق سلامة الذكاء الاصطناعي بشركة “أوبن إيه آي”، محذراً من أن شركات الذكاء الاصطناعي الكبرى لا تتخذ إجراءات كافية للحد من مخاطر التكنولوجيا، ليلتحق بذلك بكبار العاملين في القطاع الذين يوجهون تحذيرات من داخل شركاتهم.
وأوضح روبنسون في مقال نشرته مجلة “ذا أتلانتيك” أن “أوبن إيه آي”، المطورة لـ”تشات جي بي تي”، اعتمدت على التجربة والخطأ في تطوير تقنيتها، مشيراً إلى زيادة المخاطر المصاحبة لهذا النهج مع تطور القدرات التقنية، مستدلاً بفشل الشركة في السيطرة على نظام الذكاء الاصطناعي أثناء الاختبارات.
تحذيرات داخل شركات الذكاء الاصطناعي
أشار روبنسون إلى أن زملاءه السابقين أكفاء ويعملون بجد ويتخذون قرارات سليمة، لكنه أضاف أن الشركة تسرع من وتيرة إطلاق منتجاتها دون تحقيق المستوى المطلوب من العناية، مؤكداً أن المطلوب هو “شيء أقرب بكثير إلى تحقيق الكمال من المرة الأولى”.
وخلال الأسابيع الماضية، حذّر عدد من موظفي كبرى شركات الذكاء الاصطناعي من المخاطر الكارثية المحتملة لهذه التكنولوجيا، حيث طرح بعضهم احتمالات بوصولها إلى درجة تمكنها من القضاء على الجنس البشري.
دعوات لاعتماد معايير شبيهة بالنووية
وسط هذه المخاوف، دعا داريو أمودي، الرئيس التنفيذي لشركة “أنثروبيك”، إلى إبطاء وتيرة تطوير النماذج المتقدمة للذكاء الاصطناعي، معلناً أن شركته ستستعين بمقيّمين مستقلين خارجيين لفحص التكنولوجيا وضمان سلامتها، كما لاقت هذه الدعوة تأييد سام ألتمان من “أوبن إيه آي”.
وأشار روبنسون في مقاله إلى ضرورة إدارة شركات الذكاء الاصطناعي وفق أساليب مشابهة لتشغيل محطات الطاقة النووية، عبر تطبيق طبقات متعددة من أنظمة الحماية الاحتياطية والتخطيط الدقيق الذي يستغرق وقتاً، لضمان عدم وقوع أخطاء بشرية قد تتسبب في كارثة.
وأضاف أن شركات الذكاء الاصطناعي حالياً غير قادرة على تنفيذ هذه المعايير بفعالية، لكن هناك جهات أخرى تملك الخبرة اللازمة لذلك.
