درجة ثقة المجتمعموثّق
يدعي باحث في مجال الذكاء الاصطناعي يُدعى “بليني المحرر” أنه اكتشف ثغرات حقيقية في نظام “فابل 5” لأنثروبيك — وهو نظام تم تصميمه خصيصًا للحفاظ على سلوك الذكاء الاصطناعي ضمن الحدود الأخلاقية. هذه الادعاءات لم يتم التحقق منها بعد، لكنها أثارت بالفعل قلقًا في عالم أمان الذكاء الاصطناعي.
تم إطلاق “فابل 5” بزخم كبير. وقد قدمته أنثروبيك كخطوة جادة نحو منع توجيه الذكاء الاصطناعي نحو مخرجات ضارة أو غير أخلاقية. كان العرض واضحًا: إطار عمل قوي يمكنه الصمود أمام سوء الاستخدام، حتى من قبل الجهات الفاعلة المتطورة التي تعرف تمامًا ما تفعله. بليني المحرر، أيا كان، أخذ ذلك كتحدٍ. يقول إنه كان “يكتشف الثغرات في السياج بذكاء” — على حد تعبيره — وأن متانة النظام المزعومة لا تصمد بمجرد أن تبدأ في الضغط عليه. يجادل بأن المصممين تركوا فجوات لم يتوقعوها ببساطة. سواء كان ذلك تبجحًا أو اكتشافًا حقيقيًا، من الصعب القول في الوقت الحالي. لم يتحقق أي شخص خارج دائرته المباشرة من أي من ذلك بشكل مستقل.
ما يدعي بليني أنه اكتشفه
الحجة الأساسية للباحث هي أن “فابل 5” يعاني من مشكلة عدم توافق. ما تم تصميم النظام للقيام به وما يفعله بالفعل تحت الضغط هما شيئان مختلفان. يقول إن أساليبه تركز على نقاط الضعف التي غفل عنها المطورون — ليست هجمات عنيفة، بل تحقيقات أكثر دقة تكشف عن فجوات في منطق الأمان نفسه.
من الصعب رفض هذا النوع من الادعاء بشكل قاطع. تاريخ أبحاث أمان الذكاء الاصطناعي عبارة عن سلسلة طويلة من اللحظات حيث قال شخص ما “هذا آمن” وقال شخص آخر “انتظر لحظة”. كسر نماذج اللغة، حقن الأوامر، المدخلات العدائية — هذه ليست مشاكل جديدة. لقد أزعجت تطوير الذكاء الاصطناعي لسنوات، وكل طبقة أمان جديدة تميل إلى جذب الأشخاص الذين يريدون اختبار حدودها. “فابل 5” ليس مختلفًا في هذا السياق. إنه السياج الأحدث، وبليني يقول إنه وجد بالفعل الفجوات.
ما هو غامض هو التفاصيل. لم ينشر تفاصيل تقنية علنًا، على الأقل ليس في شكل يمكن للمجتمع البحثي الأوسع فحصه. لذا في الوقت الحالي، الأمر يعتمد على كلمته ضد صمت أنثروبيك.
أنثروبيك لم تقل كلمة
وهذا الصمت ملحوظ. لم تتناول أنثروبيك علنًا أيًا من هذه الادعاءات. لا بيان، لا تفنيد، لا اعتراف. لم تقل الشركة ما إذا كانت تحقق في النتائج أو ما إذا كانت تعتقد أن أساليب بليني المحرر صالحة حتى. هذا يترك فراغًا، والفراغات في نقاشات أمان الذكاء الاصطناعي تمتلئ بسرعة بالتكهنات.
المجتمع المعني بالذكاء الاصطناعي يراقب. الباحثون الذين يهتمون بأطر الأمان ربما يجرون تقييماتهم الهادئة الآن، محاولين معرفة ما إذا كان هناك شيء في هذا. المطورون الذين يبنون على أنظمة مثل “فابل 5” يريدون معرفة ما إذا كان الأساس الذي يعتمدون عليه قويًا كما هو معلن. والأشخاص الذين يشككون عمومًا في ادعاءات أمان الذكاء الاصطناعي يستخدمون هذه اللحظة لطرح أسئلة أعلى صوتًا حول ما إذا كانت التنظيم الذاتي للصناعة يعمل بالفعل.
إنها ديناميكية مألوفة. يدعي شخص خارجي كسر شيء ما. تبقى الشركة صامتة. الجميع الآخرون يجادلون حول من هو على حق.
المشكلة الأكبر لأمان الذكاء الاصطناعي
ما يجعل هذا الوضع بالذات غير مريح ليس فقط الادعاء نفسه — بل ما يمثله الادعاء. كان من المفترض أن يكون “فابل 5” معيارًا. معيارًا جديدًا. بنته أنثروبيك لتظهر أن أمان الذكاء الاصطناعي يمكن أن يتوسع جنبًا إلى جنب مع قدرات الذكاء الاصطناعي. إذا كانت هناك فجوات حقيقية فيه، فهذا ليس مجرد مشكلة “فابل 5”. إنها إشارة إلى أن النهج الكامل لبناء هذه الأطر يحتاج إلى تدقيق أكثر صرامة.
الديناميكية بين مطوري الذكاء الاصطناعي والأشخاص الذين يحاولون استغلال أنظمتهم لن تختفي. من المحتمل أن تزداد سوءًا مع زيادة قدرات الأنظمة. في كل مرة يتم فيها وضع حاجز جديد، يبدأ شخص ما في البحث عن الفجوة. هذا ليس تشاؤمًا — إنه فقط كيفية عمل أبحاث الأمان، في الذكاء الاصطناعي وفي كل مكان آخر.
ادعاءات بليني المحرر، سواء تم التحقق منها أم لا، تفرض محادثة مفيدة. هل يمكن لأطر الأمان مواكبة الأشخاص الذين يحاولون كسرها؟ هل عمليات الاختبار والتحقق صارمة بما يكفي قبل أن تصبح هذه الأنظمة عامة؟ وماذا يعني “القوة” فعليًا عندما تتعامل مع جهات معادية لديها الوقت والدافع والأدوات المتزايدة التعقيد؟
لا توجد إجابات حتى الآن. رد أنثروبيك — إذا جاء — سيكون له أهمية كبيرة. وكذلك أي مراجعة مستقلة لما يدعي بليني أنه وجده. حتى ذلك الحين، تظل سمعة “فابل 5” في مكان غير مريح: رسميًا سليمة، وغير رسميًا تحت سحابة.
تبقى أساليب الباحث غير مكشوفة.
الأسئلة الشائعة
ما هو “فابل 5” لأنثروبيك؟
“فابل 5” هو نظام أمان تم تطويره بواسطة أنثروبيك، مصمم للحفاظ على عمليات الذكاء الاصطناعي ضمن الحدود الأخلاقية ومنع المخرجات الضارة أو غير المصرح بها.
من هو “بليني المحرر”؟
“بليني المحرر” هو اسم مستعار لباحث في الذكاء الاصطناعي يدعي أنه حدد نقاط ضعف غُفلت في نظام الحماية “فابل 5” لأنثروبيك؛ لم يتم تأكيد هويته الحقيقية علنًا.
