درجة ثقة المجتمعموثّق
تقوم شركتا أوبن إيه آي وأنثروبيك بإجراء محاكاة. ليست محاكاة روتينية، بل هي تمارين شاملة مصممة لاختبار استجابتهما لسيناريوهات كارثية تتعلق بالذكاء الاصطناعي. هجمات سيبرانية على البنوك، وفشل في البنية التحتية للطاقة، وفوضى سياسية في الساعات التي تليها. لم يحدث أي من هذا بعد، لكن كلا المختبرين يستعدان على أي حال.
المبدأ بسيط. إذا تورط نموذج ذكاء اصطناعي في هجوم كبير – أو حتى اشتبه في تورطه – فإن الساعات القليلة الأولى تكون حاسمة. من يتصل بمن؟ ما هي الرسالة التي تُصدر أولاً؟ كيف تُعلم المشرعين دون إثارة الذعر التشريعي؟ أكدت أوبن إيه آي أنها تنظم مثل هذه التمارين. لم تعلق أنثروبيك. وكلا الشركتين توضحان أنهما لا تمتلكان برنامجًا مشتركًا رسميًا.
أسترا، النموذج الذي يقلق خبراء الأمن
من بين نماذج أوبن إيه آي، يُصنف أسترا بأنه يمتلك قدرات حرجة في الأمن السيبراني. ليس فقط “متقدم” – بل حرجة. يمكن لأسترا تحديد الثغرات في الأنظمة المحمية، ونظريًا، استغلالها. لم يتم تنفيذ أي هجوم حقيقي. لكن القدرة موجودة، وهذا ما يشكل مشكلة.
حتى أن أوبن إيه آي أجلت بعض مراحل التطوير لاختبار الحمايات اللازمة قبل المضي قدمًا. يمكن للنموذج اكتشاف وإصلاح العيوب – أو القيام بالعكس إذا سيطر شخص ذو نية خبيثة عليه. إنها الطبيعة المزدوجة للتكنولوجيا التي تثير القلق: يمكن استخدام نفس الأداة للدفاع أو الهجوم. ليس جديدًا حقًا في تاريخ التكنولوجيا، لكن النطاق مختلف هنا.
يمكن للنماذج الحالية للذكاء الاصطناعي أيضًا برمجة إجراءات ذاتية. هذا يعني أن الهجوم لن يحتاج بالضرورة إلى إنسان خلف لوحة المفاتيح في كل خطوة. المختبرات تعلم هذا. ربما لهذا السبب توجد هذه المحاكاة.
منتدى نموذج الحدود وآلياته الثلاثة لإدارة الأزمات
تشارك أوبن إيه آي وأنثروبيك في منتدى نموذج الحدود، الذي يضم أيضًا أمازون. وقد أنشأ هذا المنتدى ثلاث آليات متميزة لإدارة الأزمات المحتملة. الآلية الأولى: تبادل المعلومات حول الثغرات والتهديدات قبل وقوع الحادث. الثانية: نظام إبلاغ ينبه سلطة مختصة بعد وقوع حدث محدد. الثالثة: الاستجابة التشغيلية – احتواء الأضرار واستعادة الأنظمة المتأثرة.
لا تزال هذه الإجراءات قيد التطوير. لم تُنهَ بعد. تختلف السياسات الداخلية بشكل كبير من شركة لأخرى. تطبق أنثروبيك سياسة التوسع المسؤول. تستخدم أوبن إيه آي إطارًا للاستعداد يغطي المخاطر السيبرانية والبيولوجية والكيميائية. نهجان مختلفان، غير متناسقان حقًا.
وهنا يصبح الأمر مثيرًا للاهتمام – أو إشكاليًا، اعتمادًا على وجهة النظر. تظل هذه السياسات جزئيًا طوعية. لا يوجد التزام قانوني يجبر المختبرات على تطبيقها بشكل موحد. يمكنهم فرض التقييمات وتأخير الإطلاقات، لكن كل شركة تقرر مدى التقدم.
بشكل أساسي، يتم كتابة القواعد بعد الأزمة من قبل نفس الجهات التي تطور الأنظمة المعنية. تضارب محتمل في المصالح؟ ربما. تسعى الشركات إلى التأثير على اللوائح التي قد تظهر بعد حادثة متعلقة بالذكاء الاصطناعي – يعدون مستندات وإجراءات ومواقف واضحة – لتجنب الحظر الشامل أو التزامات التحكم دون أساس تقني واضح.
ليس بالضرورة خبيثًا. لكنه ليس محايدًا أيضًا.
تشمل المحاكاة أيضًا تحليل البيانات لتحديد سبب الهجوم بسرعة ودور النماذج المشاركة. الفكرة: تقديم معلومات دقيقة لصانعي السياسات في الساعات الأولى، قبل أن تُملي الافتراضات الخاطئة القرارات. غالبًا ما تكون الساعات الأولى بعد الأزمة هي الوقت الذي تُسن فيه القوانين السيئة.
وربما يكون هذا هو الهدف الحقيقي من هذه التمارين. ليس فقط لاحتواء هجوم. بل للتحكم في الرواية التي تلي. أن يكونوا مستعدين لقول “هذا ما حدث، هذا هو دورنا، هذا ما نقترحه” قبل أن يقوم شخص آخر بذلك نيابة عنهم.
توضح أوبن إيه آي بوضوح أن هذه السيناريوهات ليست حتمية. التمارين لا تفترض حدوث كارثة معينة. لكن إذا كانت أكبر مختبرين للذكاء الاصطناعي في العالم يتدربان على استجابتهما للأزمات، فهذا يعني أنهما يعتبرانها محتملة بما يكفي لتبرير الوقت والموارد. يظل أسترا مصنفًا كحرج في الأمن السيبراني.
الأسئلة الشائعة
ما هي الشركات المشاركة في تمارين محاكاة الأزمات المتعلقة بالذكاء الاصطناعي؟
أكدت أوبن إيه آي تنظيم هذه التمارين. لم تعلق أنثروبيك. كلاهما جزء من منتدى نموذج الحدود، الذي يضم أيضًا أمازون، وقد أنشأ آليات لتبادل المعلومات حول الثغرات.
لماذا يُصنف نموذج أسترا من أوبن إيه آي كحرج في الأمن السيبراني؟
يمكن لأسترا تحديد واستغلال الثغرات في الأنظمة المحمية، مما يمنحه تصنيفًا حرجًا. أجلت أوبن إيه آي بعض مراحل التطوير لاختبار الحمايات اللازمة قبل المضي قدمًا.
