“أوبن إيه آي” تتعهد بالإفصاح عن أي انحرافات لنماذج الذكاء الاصطناعي

وعدت شركة “أوبن إيه آي”، أمس الأربعاء، بالإفصاح بشكل أكثر منهجية عن انحرافات نماذجها القائمة على الذكاء الاصطناعي، حتى عندما لا تكون قد تمكنت بعد من تفسيرها أو معالجتها.

وبالموازاة مع هذا التعهد، نشرت الشركة في كاليفورنيا ستة تقارير جديدة تتعلق بتجاوزات لأدواتها العاملة بالذكاء الاصطناعي لم تكن معروفة حتى الآن.

ويأتي هذا التعهد بالشفافية عقب سلسلة من الحوادث داخل الشركة، أ عل ن عنها تباعا منذ يوليوز الماضي.

وأخطر هذه الحوادث خروج اثنين من نماذج “أوبن إيه آي” في مرحلة الاختبار من تلقائهما من بيئتهما المغلقة إلى الإنترنت، واختراقهما مواقع ومنصات عدة.

وكان الرئيس التنفيذي لشركة “أنثروبيك”، داريو أمودي، قد دعا، يوم السبت الماضي، إلى إبطاء وتيرة تطوير الذكاء الاصطناعي من أجل إتاحة فهم أفضل للمخاطر الجديدة التي ينطوي عليها.

وأي د اقتراحه كل من إيلون ماسك، والرئيس التنفيذي لشركة “أوبن إيه آي” سام ألتمان، ورئيس “غوغل ديبمايند” ديميس هاسابيس، والرئيس التنفيذي لمجموعة “مايكروسوفت” ساتيا ناديلا.

ونبهت “أوبن إيه آي” في الوثيقة المنشورة أمس إلى أن القطاع لم “يحل بعد مسألة ت واف ق النماذج مع القيم الإنسانية ومسألة الرقابة على مستوى كاف يتيح مواصلة تطوير الذكاء الاصطناعي بأقصى سرعة لفترة طويلة”.

وستعلن الشركة من الآن فصاعدا عن المشكلات المتعلقة بالأفعال الصادرة عن الذكاء الاصطناعي من دون إذن بشري، وبالخروج عن نطاق الإشراف، وبالتنسيق التلقائي بين أنظمة الذكاء الاصطناعي.