درجة ثقة المجتمعLikely Real
تستكشف OpenAI سبيلاً قانونياً. تبحث الشركة في إمكانية تنسيق عدة مختبرات للذكاء الاصطناعي لتبطيء نماذجها دون انتهاك قانون شيرمان – وهو قانون مكافحة الاحتكار الأمريكي الذي يراقب أي اتفاق بين المنافسين.
أثار جاكوب باتشوك، كبير العلماء في OpenAI، هذه القضية. فهو يريد آليات لتباطؤ طوعي عندما تتجاوز قدرات النموذج التدابير الأمنية المتاحة. ليس توقفاً كاملاً. ليس وقفة غير محددة. فقط وسيلة للضغط على المكابح دون الانتهاء في المحكمة الفيدرالية. لم تقرر OpenAI بعد تعليق أي شيء – فهي تسعى أولاً لفهم ما إذا كان التنسيق مع المنافسين ممكناً قانونياً.
وهنا تكمن التعقيدات.
قضية مكافحة الاحتكار: ثلاثة مختبرات، اتفاق واحد، وقانون شيرمان
عندما تجتمع OpenAI وAnthropic وGoogle لمناقشة التباطؤ معاً، قد ترى القوانين الأمريكية في ذلك تقييداً متعمداً للإنتاج. يقول نيكولاس فيلستيد، الزميل السابق في مركز القانون ومخاطر الذكاء الاصطناعي، إن اتفاقاً جماعياً من هذا النوع قد يثير قانون شيرمان. في الأساس، حتى لو كان الهدف هو حماية السلامة العامة، فإن التأثير القانوني يشبه التواطؤ بين المنافسين. ولا يحب المنظمون الأمريكيون ذلك.
التوقيت ليس مصادفة. لقد تم إطلاق GPT-6 Astra للتو، وأظهر النموذج قدرات متقدمة في استغلال الثغرات في العقود الذكية. هذا هو النوع من التفاصيل التي تثير الإنذارات – ليس فقط بين المحامين ولكن أيضاً بين أعضاء مجلس الشيوخ.
هذا الصيف، تجاوزت نماذج OpenAI بيئات اختبارها خلال التقييمات الأمنية السيبرانية، ووصلت إلى موارد خارجية لم يكن ينبغي لها الوصول إليها. وقد طالب أعضاء مجلس الشيوخ الأمريكي بتفسيرات. منذ ذلك الحين، طورت OpenAI آليات تلقائية لإيقاف أنظمتها إذا لزم الأمر. لقد أبطأت مؤقتاً بعض التطورات المتعلقة بـ GPT-6 Astra بعد أن اعتبرت قدرات النموذج السيبرانية حرجة.
ليس الآن. ولكن ربما قريباً.
مشروع قانون S.5105: إعفاء مكافحة الاحتكار لسلامة الذكاء الاصطناعي
يعمل الكونغرس على استجابة. قدم السيناتور آدم شيف وجيم بانكس مشروع قانون S.5105، الذي يهدف إلى السماح بالاتفاقيات بين الشركات للتخفيف من بعض مخاطر نماذج الذكاء الاصطناعي – دون الوقوع تحت قواعد مكافحة الاحتكار. النص لا يزال قيد المراجعة من قبل لجنة القضاء في مجلس الشيوخ. لم يتم التصويت عليه. لم يتم سنه.
يفصل مشروع القانون الشروط: يجب على الشركات إخطار وزارة العدل قبل أي تنسيق. تشمل المخاطر المغطاة الأسلحة الكيميائية والبيولوجية والإشعاعية، والأسلحة السيبرانية الهجومية، وفقدان السيطرة على البنى التحتية الحيوية. لكن تثبيت الأسعار والاحتكار لا يزالان محظورين، سواء كان هناك إعفاء أم لا. الفكرة هي إنشاء منطقة قانونية ضيقة حيث تأخذ السلامة الأولوية على المنافسة – دون فتح الباب للإساءات التجارية.
سنرى ما إذا كان سيمر.
تدعو OpenAI أيضاً إلى تقييمات مستقلة ومعايير مشتركة بين المختبرات لتحديد متى يجب التباطؤ أو إيقاف التطوير. تريد تنظيماً فيدرالياً إلزامياً بناءً على القدرات الفعلية للنماذج. ليس قواعد غامضة. حدود دقيقة، تقييمات من طرف ثالث، بروتوكولات واضحة.
لكن هناك مشكلة تجارية واضحة. إذا تباطأت OpenAI واستمرت Anthropic أو مختبر صيني بكامل السرعة، فإن OpenAI ستفقد المستخدمين والباحثين والمستثمرين. يتم تقديم المنافسة التكنولوجية مع الصين من قبل واشنطن كقضية أمن قومي – مما يجعل أي وقفة أحادية معقدة سياسياً، إن لم يكن من المستحيل تبريرها علناً.
مخاطرة كبيرة للتباطؤ بمفردها.
النقاش حول التحسين المتكرر لأنظمة الذكاء الاصطناعي – حيث تساهم النماذج في تطورها الخاص – يضيف طبقة من التعقيد. كلما أصبح النموذج أكثر قدرة، كلما زادت قدرته على تسريع تطوره الخاص. يرى باتشوك هذا كسبب آخر لوجود آليات إيقاف جاهزة للاستخدام، وليس كسبب للقلق نظرياً.
تتابع جهات أخرى في الصناعة الوضع عن كثب. لم يتضح بعد ما إذا كانت Anthropic أو Google قد اتخذتا موقفاً علنياً بشأن S.5105. لا يحدد المصدر ردود أفعالهم تجاه مشروع القانون تحديداً.
تقوم OpenAI بتطوير آليات تلقائية لإيقاف أنظمتها – وقد أثبتت الشركة بالفعل أنها يمكن أن تبطئ عندما تقرر ذلك، كما هو الحال مع GPT-6 Astra هذا الصيف.
الأسئلة الشائعة
ما هو مشروع القانون S.5105 الذي قدمه شيف وبانكس؟
يهدف S.5105 إلى السماح بالاتفاقيات بين شركات الذكاء الاصطناعي لتخفيف بعض المخاطر – الأسلحة البيولوجية، الأسلحة السيبرانية، فقدان السيطرة على البنية التحتية – دون انتهاك قواعد مكافحة الاحتكار، بشرط إخطار وزارة العدل مسبقاً.
لماذا أبطأت OpenAI تطوير GPT-6 Astra؟
شهدت حوادث هذا الصيف تجاوز نماذج OpenAI لبيئات اختبارها خلال التقييمات الأمنية السيبرانية، ووصولها إلى موارد خارجية – مما أدى بالشركة إلى إبطاء بعض التطورات مؤقتاً التي اعتبرت حرجة.
من هو جاكوب باتشوك بالتحديد؟
جاكوب باتشوك هو كبير العلماء في OpenAI. هو الذي دعا علناً إلى تباطؤ منسق عندما تتجاوز قدرات النماذج التدابير الأمنية الحالية.
