درجة ثقة المجتمعموثّق
وافقت ست من أكبر الأسماء في مجال الذكاء الاصطناعي — نفيديا، أوبن إيه آي، أنثروبيك، جوجل، ميتا، وxAI — على فتح نماذجها للتدقيق الخارجي. وصف الرئيس دونالد ترامب الاتفاقية بأنها “ملزمة أخلاقياً”. لكن الملزم أخلاقياً ليس ملزماً قانونياً، وفي الوقت الحالي لا يوجد ما يمنع أي من هذه الشركات من القيام بما تريد.
الاتفاقية ضعيفة. لم يحدد أحد من يختار المدققين. لم يوضح أحد ما الذي يمكن لهؤلاء المدققين فعلاً الاطلاع عليه. ولا توجد أي عقوبات — صفر — إذا قررت شركة تجاهل الأمر برمته. من المفترض أن يقوم أعضاء مجلس الإدارة بمراجعة نتائج التدقيق، وهو ما يبدو جادًا حتى تدرك أن ذلك ليس أكثر إلزامًا من وعد صغير.
شبح إنرون يطارد هذا الأمر
يبدو الإعداد مألوفًا بشكل غير مريح لأي شخص يتذكر إنرون. في عام 2000، دفعت إنرون لشركة آرثر أندرسن 25 مليون دولار لخدمات التدقيق و27 مليون دولار أخرى لأعمال أخرى. كانت العلاقة مريحة. مريحة جداً. انهارت كلتا الشركتين في غضون عامين، وكان الانهيار سيئًا بما يكفي لدرجة أن الكونغرس أصدر قانون ساربانز أوكسلي، الذي سحب سلطة اختيار المدققين بعيدًا عن إدارة الشركة تمامًا. كان الدرس واضحًا: لا يمكنك السماح للأشخاص الذين يتم تدقيقهم باختيار من يدققهم.
يبدو أن صناعة الذكاء الاصطناعي تتعلم هذا الدرس بالطريقة الصعبة. استعرضت مراجعة في عام 2023 ستة عشر شركة ذكاء اصطناعي ووجدت متوسط درجة التزام بلغ فقط 53% على التزاماتها الطوعية. في الوعد المحدد للسماح للباحثين المستقلين بالإبلاغ عن المشكلات، حصلت ثماني شركات من أصل 16 على درجة صفر. ليس منخفضة. صفر.
هذا ليس فجوة امتثال صغيرة. هذا هو معظم الفصل يفشل في الاختبار.
ما الذي يعمل فعلاً — وما الذي لا يعمل
كان هناك بعض التقدم الحقيقي في جانب الاختبار، لنكون منصفين. قامت جوجل ديب مايند بإجراء تقييم مزدوج التعمية مع معهد سلامة الذكاء الاصطناعي في سنغافورة وعدد قليل من الشركاء الآخرين. كان التصميم ذكيًا: لم يتمكن المختبرون من رؤية النموذج مباشرة، ولم تتمكن الشركة من رؤية أسئلة الاختبار. إنها محاولة حقيقية لبناء الاستقلالية دون تسليم المفاتيح.
لكنه ليس نظيفًا. يعتمد الأمر كله على أجهزة الكمبيوتر الآمنة للحفاظ على الجانبين معزولين عن بعضهما البعض. وفي العام الماضي، أظهر الباحثون أن هذا النوع من الأجهزة يمكن اختراقه بموارد قليلة. لذا فإن الطريقة التي من المفترض أن تحل مشكلة الأمان تقدم مشكلة جديدة. ليس مطمئناً تمامًا.
قامت METR، وهي منظمة غير ربحية، بإجراء اختبار محدود على نموذج o3 من أوبن إيه آي. محدود هو الكلمة الأساسية. كانت الفترة الزمنية قصيرة. كان الوصول إلى المعلومات حول كيفية عمل النموذج فعليًا مقيدًا. من الصعب القيام بعمل شامل عندما تعمل بيد واحدة مقيدة ووقت محدود.
وجدت دراسة مع باحثين من ستانفورد وهارفارد وبراون أن التزام شركات الذكاء الاصطناعي بوعودها كان متفاوتًا. كانت درجات الشفافية غير متسقة. كان الإبلاغ عن المشكلات ضعيفًا. الفجوة بين ما وعدت به الشركات وما قدمته كانت، في كثير من الحالات، واسعة جدًا.
كيف يبدو الحل الحقيقي
شارك كايل بليجن في تأليف تقرير بعنوان “بدائل للذكاء الاصطناعي المركز” يقدم قضية واضحة: التدقيق الخارجي لا يتطلب الوصول المباشر إلى النماذج. يمكن للمدققين القيام بعمل ذو مغزى دون الحصول على نسخة كاملة من النظام. هذا مهم لأن أحد الأعذار الرئيسية للصناعة لتقييد التدقيق هو حماية الملكية الفكرية. إذا كان بإمكانك تقييم النموذج دون لمسه، يصبح هذا العذر أضعف.
لكي يكون للتدقيق معنى، يجب أن تتغير بعض الأمور. يجب أن يحدد المدققون معايير التقييم الخاصة بهم — وليس تلقي التوجيه من الشركات التي تدفع للعملية. يجب على الشركات على الأقل الكشف عن من هم مدققوها وما هو نطاق التدقيق. يمكن أن تبقى النتائج التفصيلية سرية إذا لزم الأمر، ولكن يجب أن يكون الهيكل الأساسي مرئيًا، كما هو الحال بالنسبة للشركات العامة التي تقدم تقاريرها للجهات التنظيمية.
ويجب أن يكون هناك شخص ما لمراقبة المدققين أنفسهم. في الوقت الحالي، لا يوجد ما يعادل مجلس الرقابة على محاسبة الشركات العامة، الذي أنشأه قانون ساربانز أوكسلي لمراقبة المدققين الماليين. لا أحد يتحقق مما إذا كانت عمليات تدقيق الذكاء الاصطناعي صارمة، أو غير متحيزة، أو حتى مكتملة. الاتفاقية الحالية لا تمس أيًا من ذلك.
أظهرت الالتزامات الطوعية التي قدمتها هذه الشركات للبيت الأبيض في عام 2023 بالفعل حدود هذا النهج. كان من المفترض أن يحصل الخبراء الخارجيون على الوصول إلى أنظمة الاختبار قبل الإصدار. كان ذلك يبدو ذا مغزى. ثم ظهرت درجة الالتزام المتوسط البالغة 53%، والدرجات الصفرية الثمانية من أصل 16 في الإبلاغ المستقل عن المشكلات، وأصبح واضحًا أن “من المفترض” كانت تقوم بالكثير من العمل الثقيل.
من المحتمل أن يتطلب الأمر تشريعًا. لم ينظف القطاع المالي التدقيق من خلال التعهدات الطوعية — بل تطلب فضيحة ضخمة وقانون من الكونغرس. تقوم صناعة الذكاء الاصطناعي بإجراء تجربة مماثلة الآن، مع مشاكل هيكلية مماثلة وحوافز مماثلة للنظر في الاتجاه الآخر. الطريقة المزدوجة العمياء واعدة حقًا. العمل الذي قامت به METR على o3 هو بداية. لكن البداية ليست نظامًا، والاتفاقية الملزمة أخلاقياً بدون آلية تنفيذ ليست ملزمة حقًا.
كانت درجة الالتزام المتوسطة عبر تلك الشركات الستة عشر 53%.
الأسئلة الشائعة
ما هي الشركات التي وقعت على اتفاقية تدقيق الذكاء الاصطناعي؟
التزمت كل من نفيديا، أوبن إيه آي، أنثروبيك، جوجل، ميتا، وxAI بالسماح بتدقيق خارجي لنماذج الذكاء الاصطناعي الخاصة بها بموجب الاتفاقية التي وصفها الرئيس ترامب بأنها “ملزمة أخلاقياً”.
ماذا وجدت مراجعة 2023 لشركات الذكاء الاصطناعي بشأن التزامات الشفافية؟
وجدت مراجعة لـ16 شركة درجة التزام متوسطة تبلغ 53%، وحصلت ثماني شركات من أصل 16 على درجة صفر في الوعد المحدد بالسماح بالإبلاغ المستقل عن المشكلات.
