“أوبن إيه آي” تتراجع عن إطلاق نموذج ذكاء اصطناعي لعدم إحكام السيطرة عليه

تراجعت شركة “أوبن إيه آي” الأمريكية، التي طورت محرك الدردشة “شات جي بي تي”، عن إطلاق نموذج ذكاء اصطناعي جديد ومتطور، بعدما تبين أنه يميل أكثر من اللازم إلى الخروج عن التعليمات، مما يشكل مثالا جديدا على الصعوبة المتزايدة في السيطرة على نماذج الذكاء الاصطناعي المتطورة.

وبحسب صحيفة “وول ستريت جورنال”، كانت “أوبن إيه آي” تعتزم إطلاق نسخة محدثة من “جي بي تي 6.1 أسترا” في أكتوبر المقبل، من دون أن تكون قد أعلنت رسميا حتى الآن عن موعد طرحها.

وأوضحت رئيسة قسم أمن الذكاء الاصطناعي في “أوبن ايه آي”، ساتشي جاين، أن “جي بي تي 6.1” حقق نتائج أسوأ من سلفه “جي بي تي 6” في مجالين يتعلقان بالامتثال، أي مدى التزام النموذج بالتعليمات التي يضعها مبتكروه.

ويأتي قرار “أوبن ايه آي” عشية استضافتها مؤتمر المطورين السنوي “أوبن ايه آي ديف داي” في سان فرانسيسكو، والذي يتوقع أن يتضمن إعلانات كثيرة للشركة.

ويميل النموذج الجديد لـ”اوبن ايه آي” إلى تضليل المشرفين عليه عبر الامتناع عن الكشف عن بعض الإجراءات التي اتخذها أو لم ينفذها.

كما تجاوز النموذج نطاق صلاحياته بشكل متكرر، إذ لجأ إلى أدوات وخدمات من دون أن يحصل على إذن باستخدامها.

وأشارت جاين إلى أن “جي بي تي 6.1” أظهر تقدما مقارنة بالنماذج السابقة، موضحة أنه أصبح قادرا على مواصلة عملية الاستدلال لفترة أطول، ويلجأ بشكل أقل إلى اختصارات العمليات.

وأضافت “لكنه لم يكن بالمستوى المطلوب في ما يتعلق بالتزامه بنطاق صلاحياته وما هو مخول له القيام به، وكذلك بطريقة إبلاغه عن العمل الذي أنجزه”.

وبناء على ذلك، قررت “أوبن إيه آي” إلغاء إطلاق النموذج للعمل على تحسين التزامه بالتعليمات والحدود المفروضة عليه.

وتعتزم المجموعة إصدار نماذج أخرى استوفت معايير التقييم المطلوبة.