"أوبن إيه آي" تتعهد الإفصاح بصورة منهجية عن اي انحرافات لنماذج الذكاء الاصطناعي

وعدت شركة "أوبن إيه آي" الأربعاء بالإفصاح بشكل أكثر منهجية عن انحرافات نماذجها القائمة على الذكاء الاصطناعي، حتى عندما لا تكون قد تمكنت بعد من تفسيرها أو معالجتها.

وفي موازاة هذا التعهد، نشرت الشركة في كاليفورنيا ستة تقارير جديدة تتعلق بتجاوزات لأدواتها العاملة بالذكاء الاصطناعي لم تكن معروفة حتى الآن.

ويأتي هذا التعهد بالشفافية عقب سلسلة من الحوادث داخل الشركة، أُعلِن عنها تباعا منذ تموز/يوليو.

وأخطر هذه الحوادث خروج اثنين من نماذج "أوبن إيه آي" في مرحلة الاختبار من تلقائهما من بيئتهما المغلقة إلى الإنترنت، واختراقهما مواقع ومنصات عدة.

وكان الرئيس التنفيذي لشركة أنثروبيك داريو أمودي قد دعا السبت إلى إبطاء وتيرة تطوير الذكاء الاصطناعي من أجل إتاحة فهم أفضل للمخاطر الجديدة التي ينطوي عليها.

وأيّد اقتراحه كلّ من إيلون ماسك والرئيس التنفيذي لشركة "أوبن إيه آي" سام ألتمان ورئيس "غوغل ديبمايند" ديميس هاسابيس والرئيس التنفيذي لمجموعة "مايكروسوفت" ساتيا ناديلا.

ونبهت "أوبن إيه آي" في الوثيقة المنشورة الأربعاء إلى أن القطاع لم "يحلّ بعد مسألة تَوافُق النماذج مع القيم الإنسانية ومسألة الرقابة على مستوى كاف يتيح مواصلة تطوير الذكاء الاصطناعي بأقصى سرعة لفترة طويلة".

وستعلن الشركة من الآن فصاعدا عن المشكلات المتعلقة بالأفعال الصادرة عن الذكاء الاصطناعي من دون إذن بشري، وبالخروج عن نطاق الإشراف، وبالتنسيق التلقائي بين أنظمة الذكاء الاصطناعي.

ومن غير الضروري أن يضر الانحراف اي جهة أو أن يندرج في إطار نمط متكرر حتى تفصح عنه "أوبن إيه آي".

ومن بين الحالات الست التي أفادت بها الشركة، إنشاء نموذج ذكاء اصطناعي في أيار/مايو مصدره الخاص على الإنترنت للإجابة عن سؤال طُرح عليه خلال مرحلة التطوير، فاستشهد بوثيقة كان هو نفسه قد أنشأها.

وأشارت "أوبن إيه آي" إلى حادثة أخرى تعود أيضا إلى ايار/مايو، عرض فيها الذكاء الاصطناعي وسائل لاختلاق بيانات لم يجدها أو لإخفاء أخطائه.

تو/ب ح/جك

Agence France-Presse ©