درجة ثقة المجتمعموثّق
يريد كبير العلماء في OpenAI وضع معايير أمان إلزامية. الآن. والسبب غير مريح إلى حد ما: نماذج الذكاء الاصطناعي المتقدمة للشركة أصبحت معقدة لدرجة أن OpenAI نفسها لا يمكنها تتبع ما تفعله بالكامل.
أطلق جاكوب باتشوك هذه الدعوة علنًا، مطالبًا بوضع متطلبات أمان ملزمة عبر تطوير الذكاء الاصطناعي. قلقه الأساسي ليس نظريًا — بل عمليًا. تواجه OpenAI صعوبة حقيقية في مراقبة عمليات التفكير لأكثر نماذجها تقدمًا، ويعتقد باتشوك أن الصناعة لا يمكنها أن تأمل في الأفضل بينما تتسع هذه الفجوة. النماذج تتقدم بسرعة أكبر من أدوات الرقابة المصممة لمراقبتها.
ليست مشكلة صغيرة.
عندما تصبح الصندوق الأسود أكثر ظلمة
المشكلة الأساسية هنا هي القابلية للتفسير — أو نقصها. مع تطور أنظمة الذكاء الاصطناعي، يصبح المنطق الداخلي وراء قراراتها أصعب في المتابعة. ما يبدو وكأنه نموذج “يفكر” في مشكلة هو، على مستوى ما، سلسلة من الحسابات التي حتى الأشخاص الذين بنوا النظام يكافحون لفك شفرتها بالكامل. دفع باتشوك لوضع معايير إلزامية هو في الأساس اعتراف بأن هذه الفجوة بين القدرة والفهم قد وصلت إلى نقطة حيث لم يعد الحذر غير الرسمي كافيًا.
ليس وحده في التفكير بذلك. لقد أمضى مجتمع أبحاث الذكاء الاصطناعي الأوسع سنوات في التعامل مع هذا — ماذا يحدث عندما تصبح عملية اتخاذ القرار للنموذج غامضة حقًا، حتى لمبدعيها؟ القلق ليس فلسفيًا فقط. إذا لم تتمكن من التنبؤ بشكل موثوق بكيفية تصرف النظام في الحالات الحرجة، فلن تتمكن من منعه بشكل موثوق من القيام بشيء غير مقصود. وكلما كان النموذج أكثر قدرة، كانت المخاطر المرتبطة بتلك الأفعال غير المقصودة أعلى.
وضع OpenAI ربما ليس فريدًا. إنها فقط واحدة من الأماكن القليلة حيث قال شخص كبير بما يكفي ليكون له تأثير ذلك بصوت عالٍ.
وهذا هو نوع النقطة التي يبدو أن باتشوك يحاول إيصالها — أن هذا يجب أن يتوقف عن كونه قلقًا داخليًا هادئًا في المختبرات الفردية ويبدأ في أن يكون التزامًا منظمًا وقابلًا للتنفيذ على مستوى الصناعة.
ما الذي يُقترح فعليًا
هنا تصبح الأمور غامضة. كان باتشوك واضحًا بشأن الضرورة. كان واضحًا أن هناك حاجة إلى معايير إلزامية. ما لم يكن واضحًا بشأنه — وما لم توضحه OpenAI — هو كيف ستبدو تلك المعايير في الواقع في التطبيق.
لا يوجد جدول زمني. لا توجد بروتوكولات محددة. لا توجد آلية للتنفيذ. لم تقل الشركة كيف ستتحقق من الامتثال، من سيتولى التحقق، أو كيف ستتفاعل المعايير المقترحة مع عملية تطوير OpenAI الحالية. هذه فجوة كبيرة بين “نحتاج إلى قواعد” و”ها هي القواعد”.
من غير الواضح ما إذا كان باتشوك يدفع لشيء داخلي في OpenAI، أو شيء يجب أن تتبناه صناعة الذكاء الاصطناعي الأوسع طواعية، أو شيء يتطلب تدخل الحكومة. كل من هذه المسارات يحمل دلالات مختلفة جدًا — من حيث السرعة، ومن حيث القابلية للتنفيذ، ومن حيث الديناميكيات التنافسية بين المختبرات. لم يتم إصدار أي تفاصيل عن أي من ذلك بعد.
ربما ينتظر مجتمع الذكاء الاصطناعي المزيد من التفاصيل قبل أن يعرف مدى جدية التعامل مع الاقتراح مقابل مدى جدية التعامل مع التحذير وراءه.
لماذا يبدو هذا اللحظة مختلفة
لم يكن هناك نقص في الدعوات لأمان الذكاء الاصطناعي خلال السنوات القليلة الماضية. ما يجعل تعليقات باتشوك مختلفة هو المصدر. إنه ليس ناقدًا من خارج الصناعة أو باحثًا في مؤسسة أكاديمية بدون مصلحة في الأمر. إنه كبير العلماء في واحدة من أكثر مختبرات الذكاء الاصطناعي تأثيرًا في العالم، ويقول علنًا إن شركته نفسها تكافح للإشراف على ما تفعله نماذجها.
هذا اعتراف صريح. إنه أيضًا إشارة إلى أن المشكلة لم تعد افتراضية — إنها عملية، إنها حالية، وتحدث في مقدمة قدرة الذكاء الاصطناعي.
بالنسبة للمستثمرين والمطورين وأي شخص يبني على هذه النماذج، هذا مهم. إذا كان الأشخاص الأقرب إلى التكنولوجيا يقولون إن الرقابة أصبحت أصعب، فهذا معلومات ذات صلة. ربما ينبغي أن يدفع ذلك المختبرات الأخرى للتساؤل عما إذا كانوا يواجهون الشيء نفسه ولم يقولوا ذلك بعد.
عدم وجود خطة مفصلة لا يجعل القلق الأساسي أقل واقعية. رسالة باتشوك هي في الأساس: تعقيد هذه الأنظمة تجاوز الأطر التي لدينا لإدارتها، ويجب أن يتغير ذلك قبل أن تتسع الفجوة أكثر.
لم تقل OpenAI متى تتوقع إصدار توجيهات إضافية، ولم تسمِّ هيئة تنظيمية معينة تعمل معها، ولم تلتزم بجدول زمني عام لأي من التدابير المقترحة. ما فعلته، من خلال باتشوك، هو وضع المشكلة على السجل — بصوت عالٍ بما يكفي بحيث لا يمكن للمختبرات الأخرى تجاهله تمامًا.
ما إذا كان ذلك سيترجم إلى معايير ملزمة فعلية، أو يبقى على مستوى القلق المعلن جيدًا، لا يزال غير واضح حقًا.
الأسئلة الشائعة
من هو جاكوب باتشوك وماذا قال عن أمان الذكاء الاصطناعي؟
جاكوب باتشوك هو كبير العلماء في OpenAI. دعا علنًا إلى وضع معايير أمان إلزامية في تطوير الذكاء الاصطناعي، مشيرًا إلى الصعوبة المتزايدة لـ OpenAI في مراقبة والإشراف على عمليات التفكير لنماذج الذكاء الاصطناعي الأكثر تقدمًا لديها.
هل أصدرت OpenAI خططًا محددة لتنفيذ معايير أمان الذكاء الاصطناعي؟
لا. حتى الآن، لم تكشف OpenAI عن بروتوكولات محددة أو جداول زمنية أو آليات تنفيذ للمعايير الأمنية الإلزامية المقترحة التي دعا إليها باتشوك.
