درجة ثقة المجتمعLikely Real
تريد شركة Anthropic أن يبطئ العالم. الشركة التي تقف وراء روبوت المحادثة Claude تدفع نحو التنسيق الدولي في تطوير الذكاء الاصطناعي المتقدم، محذرة من أن التكنولوجيا قد تصل قريباً إلى نقطة يمكنها فيها المساعدة في تصميم الجيل التالي من نفسها — وهذه مشكلة يبدو أن لا أحد مستعد لها.
المشكلة ليست نظرية. تخشى Anthropic أنه بدون استجابة جماعية من الحكومات والشركات، قد يؤدي تطوير الذكاء الاصطناعي إلى إنتاج أنظمة يصعب حقاً التحكم فيها أو تنظيمها. نداء الشركة هو في الأساس دعوة للتوقف، وإعادة التنظيم، والتفكير في الحوكمة قبل أن تتفوق التكنولوجيا على الأشخاص الذين يحاولون إدارتها. لم يتم تحديد جدول زمني محدد. لم يتم توضيح آلية تنسيق ملموسة أيضاً. مجرد تحذير، ودفع للإلحاح.
إنها خطوة لافتة من شركة تعد أيضاً واحدة من أبرز الشركات المصنعة لتلك التكنولوجيا نفسها.
مشكلة التحسين الذاتي
الخوف الأساسي هو هذا: يمكن لأنظمة الذكاء الاصطناعي قريباً أن تساهم بشكل ملموس في بناء خلفائها. لم يعد ذلك خيالاً علمياً — إنه سيناريو واقعي على المدى القريب تأخذه Anthropic بجدية كافية لتعلن عنه. إذا بدأ الذكاء الاصطناعي في تصميم الذكاء الاصطناعي، فقد يتجاوز سرعة التقدم أي إطار حوكمة متاح حالياً. قد يصبح الإشراف البشري، الذي هو بالفعل ممتد، مستحيلاً فعلياً.
موقف Anthropic يضع ضغطاً على كل من المنظمين والمنافسين. تقول الشركة إن هناك حاجة إلى نهج منسق — ليس فقط بلد واحد أو شركة واحدة تعمل بمفردها، بل جهد دولي موحد. كيف يبدو ذلك في الممارسة؟ غير واضح. لم يتم الكشف عن خطط رسمية. لم يتم تسمية أي دول أو مؤسسات كشركاء أو مشاركين. نداء الشركة هو أشبه بإنذار حريق أكثر من كونه مخططاً.
وإنذار الحريق يصبح من الصعب تجاهله. قدرات الذكاء الاصطناعي قد تقدمت بسرعة في جميع المجالات، والفجوة بين ما يمكن لهذه الأنظمة فعله وما يمكن للقواعد الحالية التعامل معه قد اتسعت بشكل كبير. ليست Anthropic الصوت الأول الذي يثير مخاوف بشأن الذكاء الاصطناعي الذي يحسن نفسه، لكنها واحدة من الأصوات الأعلى في الوقت الحالي، وموقف الشركة داخل الصناعة يمنح التحذير بعض الثقل.
الحوكمة بدون خريطة طريق
مشكلة الحوكمة حقيقية ومعقدة. لدى الدول المختلفة فلسفات تنظيمية مختلفة. يرى البعض الذكاء الاصطناعي كأصل استراتيجي ولن يتباطأ لأجل أحد. آخرون لا يزالون يكتشفون الأطر الأساسية. جعلهم جميعاً ينسقون — ينسقون حقاً، وليس فقط يوقعون على بيان غير ملزم — هو طلب صعب. نداء Anthropic لا يحل هذا التوتر. ربما لا يمكنه ذلك.
المصالح التجارية تضيف طبقة أخرى من الاحتكاك. الشركات التي تتنافس على الهيمنة في مجال الذكاء الاصطناعي لديها أسباب واضحة للتحرك بسرعة، وليس التوقف. حتى الشركات التي تشارك مخاوف Anthropic قد تحسب أن التقييد الأحادي الجانب فقط يمنح ميزة للمنافسين الذين لن يظهروا نفس الانضباط. لذا فإن هيكل الحوافز يتعارض مع التعاون الذي تطلبه Anthropic.
ومع ذلك، فإن المحادثة تتغير. هناك نقاش أكثر جدية يحدث على مستوى السياسات حول حوكمة الذكاء الاصطناعي مما كان عليه الحال قبل بضع سنوات فقط. دفع Anthropic يأتي في لحظة حيث يكتسب هذا النقاش زخماً، وربما يرفع من مستوى الإلحاح.
لا يزال غير واضح، مع ذلك، ما الذي يعنيه فعلاً التوقف المنسق. التوقف عن ماذا، بالضبط؟ تدريب النماذج المتقدمة؟ النشر؟ أدوات البحث الذاتي للذكاء الاصطناعي؟ لم يحدد المصدر، وتلك الغموض يجعل من الصعب تقييم ما إذا كان الاقتراح عملياً أو رمزياً بشكل أساسي.
ما الذي تطلبه Anthropic حقاً
إذا أزلنا اللغة التجارية، فإن الطلب مباشر جداً: لا تدع الذكاء الاصطناعي يتفوق على القدرة على حكومته. تريد Anthropic استراتيجيات جديدة، سياسات جديدة، وأطر أخلاقية يمكنها مواكبة التكنولوجيا التي لا تتباطأ من تلقاء نفسها. ترى الشركة غياب معايير دولية واضحة كعامل خطر حقيقي، وليس مجرد فجوة سياسية يجب ملؤها في النهاية.
لا يمكن الجدال حقاً مع التشخيص. ما إذا كان العلاج — التنسيق الدولي — قابلاً للتحقيق هو سؤال مختلف. الدول والشركات لديها أولويات متنافسة. آليات التنفيذ لأي اتفاقية دولية بشأن الذكاء الاصطناعي لا توجد بعد. والتكنولوجيا تستمر في التحرك سواءً كانت الحوكمة تلحق بها أم لا.
نداء Anthropic صادق على الأقل بشأن المخاطر. أنظمة الذكاء الاصطناعي التي تحسن نفسها، إذا وصلت دون وجود هياكل إشراف كافية، يمكن أن تتحدى أطر الحوكمة بطرق يصعب التراجع عنها. عمل الشركة على Claude يقع في قلب هذا التوتر.
لم يتم تضمين أي رد من مطوري الذكاء الاصطناعي الرئيسيين الآخرين في بيان الشركة.
الأسئلة الشائعة
ما هو القلق الرئيسي لشركة Anthropic بشأن تطوير الذكاء الاصطناعي المتقدم؟
تحذر Anthropic من أن الذكاء الاصطناعي قد يصل قريباً إلى نقطة يساعد فيها في تصميم خلفائه، مما قد ينتج أنظمة يصعب على البشر التحكم فيها أو تنظيمها.
ماذا تقترح Anthropic لإدارة هذه المخاطر؟
تدعو Anthropic إلى التنسيق الدولي بين الدول والشركات لإدارة تقدم الذكاء الاصطناعي، على الرغم من عدم الكشف عن خطة رسمية أو شركاء محددين.
