درجة ثقة المجتمعموثّق
تقول أكبر مسؤولة تقنية في أوروبا إن قواعد الذكاء الاصطناعي في الاتحاد الأوروبي يمكنها التعامل مع الذكاء الاصطناعي المارق. هينا فيرككونن، رئيسة التكنولوجيا في الاتحاد الأوروبي، ردت بشدة على المنتقدين الذين يقولون إن قانون الذكاء الاصطناعي أصبح بالفعل قديمًا — وهي ليست مستعدة للتراجع.
موقف فيرككونن واضح جدًا: قانون الذكاء الاصطناعي، الذي دخل حيز التنفيذ منذ عامين، هو من بين أكثر الأطر صرامة في العالم. يغطي دورة حياة نماذج الذكاء الاصطناعي بالكامل، من التطوير إلى النشر، وقد استند المنظمون إلى توصيات من لجنة تضم 60 خبيرًا في الذكاء الاصطناعي لتوجيه نهجهم في التنفيذ. تعتقد أن هذا يكفي — في الوقت الحالي — لمنع الأنظمة المتقدمة من الخروج عن السيطرة البشرية.
ليس الجميع متفقون.
الرئيس التنفيذي لشركة Anthropic يثير القلق
داريو أمودي، الرئيس التنفيذي لشركة Anthropic، أوضح مخاوفه في منشور مدونة يتم تداوله على نطاق واسع. قلقه ليس مجرد نظرية. كتب أن سرعة تقدم الذكاء الاصطناعي قد تتجاوز الفهم والسيطرة البشرية — وهو سيناريو مدفوع بشكل كبير بتحسين الذات التكراري، حيث تقوم أنظمة الذكاء الاصطناعي بترقية خلفائها دون تدخل البشر. هذه فكرة مقلقة للغاية، وهي ليست صادرة عن صوت هامشي. أمودي يدير واحدة من أكثر مختبرات الذكاء الاصطناعي مراقبة في العالم.
لم تأت المخاوف في Anthropic من العدم أيضًا. حوادث في كل من OpenAI وAnthropic أثارت بالفعل مخاوف بشأن احتمال تجاوز وكلاء الذكاء الاصطناعي للسيطرة البشرية. لم يتم تفصيل تفاصيل تلك الحوادث بالكامل في الاتصالات الرسمية، لكنها كانت كافية لوضع المنظمين في بروكسل في حالة تأهب. وترجمت تلك الحالة إلى عمل سريع.
منذ أواخر أغسطس، كانت المفوضية الأوروبية تتواصل مع أكثر من 30 شركة ذكاء اصطناعي، تطلب منهم تقديم معلومات تفصيلية عن السلامة والأمان. فيرككونن تقوم حاليًا بمراجعة تلك الردود. ما تجده — أو لا تجده — يمكن أن يشكل الجولة التالية من التحركات التنظيمية عبر القارة.
ما الذي كان على 30 شركة تقديمه
جهد جمع البيانات هو في الأساس اختبار ضغط. تريد المفوضية معرفة كيفية إدارة هذه الشركات للمخاطر فعليًا، وليس فقط ما تقوله في البيانات الصحفية. هل يقومون بتشغيل تمارين فريق أحمر داخلي؟ هل لديهم بروتوكولات احتواء إذا تصرف نموذج بشكل غير متوقع؟ هل فرق السلامة لديهم مجهزة بشكل صحيح؟ الإجابات على هذه الأسئلة ستخبر بروكسل بالكثير عن مكان وجود الفجوات.
ومن المحتمل أن تكون هناك فجوات. يتحرك قطاع الذكاء الاصطناعي بسرعة — أسرع، ربما، من أي هيئة تنظيمية يمكنها تتبعها بشكل مريح. تم تصميم قانون الذكاء الاصطناعي في الاتحاد الأوروبي مع وضع هذه المشكلة في الاعتبار، لكن حتى مهندسيه لا يمكنهم التأكد من أنه يغطي كل سيناريو قد يخلقه نظام ذكاء اصطناعي يحسن نفسه. هذه هي الحقيقة الصادقة، ويبدو أن فيرككونن تدرك ذلك حتى لو كانت واثقة علنًا.
كما كانت واضحة بأن الحوار بين المنظمين والصناعة ليس حدثًا لمرة واحدة. إنه مستمر. ستغذي التعليقات الواردة من هذه الشركات الثلاثين وأكثر مباشرة في القرارات التنظيمية المستقبلية. هذا نموذج معقول، لكنه يعتمد بشكل كبير على أن تكون الشركات صريحة — وهو ما لا يضمن عندما يكون هناك ضغط تجاري للظهور بمظهر أكثر أمانًا مما قد تكون عليه فعليًا.
التوتر الأوسع هنا حقيقي. تريد أوروبا أن تكون رائدة عالميًا في حوكمة الذكاء الاصطناعي، وقانون الذكاء الاصطناعي هو أداتها الرئيسية لتحقيق ذلك. لكن القانون لا يمكن أن يعمل إلا إذا كان يواكب ما يحدث فعليًا داخل هذه المختبرات. التحسين الذاتي التكراري، كما وصفه أمودي، هو نوع من التطور الذي يمكن أن يجعل التنظيم الذي يبلغ عمره عامين يبدو قديمًا بين عشية وضحاها.
التنظيم مقابل سرعة الآلة
من المفيد التراجع للحظة. قانون الذكاء الاصطناعي الذي يغطي دورة حياة النماذج بالكامل هو طموح حقًا. تركز معظم الأطر التنظيمية على المخرجات — ما يفعله النظام بمجرد نشره. تغطية دورة الحياة بالكامل تعني أن المنظمين يمكنهم، على الأقل نظريًا، التدخل في وقت مبكر. هذا ميزة هيكلية ذات مغزى.
لكن الهيكل لا يهم إلا إذا كان التنفيذ يواكب. اللجنة المكونة من 60 خبيرًا التي تقدم التوجيه للمنظمين هي أساس متين. ما إذا كان بإمكان هؤلاء الخبراء البقاء على اطلاع بالتطورات في المختبرات الحدودية — المختبرات التي تكافح نفسها لفهم ما تفعله أنظمتها بالكامل — هو سؤال أصعب. غير واضح، بصراحة.
مراجعة فيرككونن لتقديمات الشركات هي الخطوة التالية الفورية. يمكن أن تدفع نتائج هذا التقييم المفوضية نحو تشديد بعض الأحكام، أو طلب إفصاحات إضافية، أو في حالات أكثر خطورة، اتخاذ إجراءات تنفيذية ضد الشركات التي لا يمكنها إثبات بروتوكولات السلامة الكافية. لم يتم الكشف عن أي جدول زمني لإكمال تلك المراجعة.
ما لا شك فيه هو الإلحاح. كانت الحوادث في OpenAI وAnthropic كافية لإطلاق حملة جمع معلومات رسمية عبر أكثر من 30 شركة. هذا ليس تمرينًا بيروقراطيًا بسيطًا. هذه بروكسل تتعامل مع الذكاء الاصطناعي المارق كخطر حقيقي، وليس نظريًا.
تقوم فيرككونن حاليًا بمراجعة الردود من تلك الشركات.
الأسئلة الشائعة
ما هو قانون الذكاء الاصطناعي في الاتحاد الأوروبي وكم من الوقت مضى على دخوله حيز التنفيذ؟
قانون الذكاء الاصطناعي في الاتحاد الأوروبي هو تنظيم يغطي دورة حياة نماذج الذكاء الاصطناعي بالكامل، مصمم لإدارة المخاطر من الذكاء الاصطناعي. لقد كان ساري المفعول لمدة عامين.
لماذا تواصلت المفوضية الأوروبية مع أكثر من 30 شركة ذكاء اصطناعي؟
منذ أواخر أغسطس، طلبت المفوضية معلومات تفصيلية عن السلامة والأمان من أكثر من 30 شركة ذكاء اصطناعي بعد مخاوف بشأن احتمال تجاوز وكلاء الذكاء الاصطناعي للسيطرة البشرية، بما في ذلك حوادث في OpenAI وAnthropic.
