درجة ثقة المجتمعموثّق
إيفان هوبينجر قالها بوضوح. أكثر من 10% احتمال. هذا تقديره لإمكانية القضاء على البشرية بواسطة الذكاء الاصطناعي خلال السنوات العشر القادمة — وهو ليس صوتاً هامشياً يصرخ من مدونة. إنه باحث في شركة أنثروبيك، واحدة من أبرز مختبرات سلامة الذكاء الاصطناعي في العالم، وقبل ذلك أمضى سنوات كمهندس برمجيات في شركة ريبل، حيث عمل على بروتوكول إنترليدجر.
أدلى هوبينجر بتعليقاته ردًا على إعلان استقالة جاكوب كوكسون، الباحث السابق في أنثروبيك الذي غادر مع بعض الانتقادات الحادة الموجهة مباشرة إلى الصناعة التي تركها وراءه. مشكلة كوكسون: الشركات الكبرى في مجال الذكاء الاصطناعي، بما في ذلك أنثروبيك وأوبن إيه آي، تسعى وراء الذكاء الفائق ذاتي التحسين دون حذر كافٍ. حذر من أن أنظمة الذكاء الاصطناعي المستقبلية قد تطور القدرة على ممارسة تأثير حقيقي يتجاوز البيئات الخاضعة للسيطرة — وأن الأشخاص الذين يبنون هذه الأنظمة لا يكونون صريحين مع الجمهور بشأن المخاطر المتضمنة. لم يذكر شركة معينة كأكبر مذنب. بل ذكر المجال بأكمله.
ما قاله هوبينجر فعلاً
إليك الجزء المهم. لم يكن هوبينجر يهاجم أنثروبيك. كان حذرًا بشأن ذلك. قال إن تحذيره لا ينبغي أن يُقرأ كأنه هجوم على عمل أنثروبيك، وكان واضحًا أن الشركة تحاول بصدق حل مشكلة التوافق للذكاء الفائق. لكن — وهذا لكن كبير — اعترف بأنه لا يوجد مسار واضح للمضي قدمًا حتى الآن. لم يكتشف أحد ذلك. وظيفته في أنثروبيك تتضمن أساسًا اختبار آليات سلامة الذكاء الاصطناعي، والبحث عن نقاط الضعف فيها. لا يقوم بهذا العمل لأنه يعتقد أن كل شيء على ما يرام.
لذلك عندما يقول شخص وظيفته الفعلية هي العثور على أوضاع الفشل في سلامة الذكاء الاصطناعي أن احتمالات المخاطر على مستوى الانقراض تتجاوز واحدًا من عشرة، فإن ذلك يستحق الاهتمام الجاد.
خروج كوكسون يضيف بعض التفاصيل هنا. لم يغلق الباب بهدوء. انتقد مختبرات الذكاء الاصطناعي لعدم الكشف الكافي عن المخاطر المرتبطة بأبحاثهم. إنه قلق من أن أنظمة الذكاء الاصطناعي قد تكتسب قوة وتأثيرًا كبيرين بطرق لم يتم رسمها بالكامل بعد. ومع ذلك — لا يزال يأمل بعض الشيء. يعتقد أن هناك فرصة أن تتمكن المختبرات الكبرى من التباطؤ، وربما حتى التعاون لإبطاء السباق نحو الذكاء الفائق. ما إذا كان ذلك سيحدث هو تخمين أي شخص. لا توجد تفاصيل حول كيفية عمل هذا التنسيق فعليًا.
نماذج جديدة، تحذيرات قديمة
التوقيت غير مريح. جاءت تحذيرات هوبينجر وكوكسون في الوقت الذي تم فيه إطلاق بعض الأنظمة الجديدة القوية حقًا. في 3 سبتمبر، أطلقت أوبن إيه آي نموذج GPT-6 Astra. وصفه الرئيس التنفيذي لشركة نفيديا، جنسن هوانغ، بأنه خطوة نحو الذكاء الفائق — وهو ما قد يكون مثيرًا أو مرعبًا، اعتمادًا على وجهة نظرك. من جانبها، أطلقت أنثروبيك كلاود فابل 5.1 وكلاود ميثوس 5.1، وكلاهما يهدف إلى تعزيز القدرات في البرمجة والبحث العلمي. لذا فإن المختبر الذي يوظف الشخص الذي يحذر من مخاطر الانقراض يقوم أيضًا بشحن نماذج جديدة في الخط الأمامي. هذا التوتر ليس مفقودًا على أي شخص يولي اهتمامًا.
من المفيد التراجع للحظة. الجدل حول سلامة الذكاء الاصطناعي ليس جديدًا. لقد كان الباحثون يثيرون مخاوف التوافق لسنوات، وقد استمرت الصناعة في التسارع على أي حال. ما يختلف الآن هو أن الأشخاص الذين يطلقون الإنذارات ليسوا من الخارج. إنهم من الداخل — أشخاص لديهم عناوين بريد إلكتروني في أنثروبيك، أشخاص بنوا أشياء في أوبن إيه آي، أشخاص يعرفون بالضبط مدى سرعة تحرك القدرات لأنهم هم من يحركونها.
مسار حياة هوبينجر نفسه يروي القصة نوعًا ما. انتقل من العمل الهندسي في ريبل — بناء بروتوكول إنترليدجر، بنية تحتية عملية للتكنولوجيا المالية — إلى علوم الكمبيوتر النظرية وأبحاث سلامة الذكاء الاصطناعي. هذا تحول متعمد. لم يتعثر في عمل التوافق. اختاره، مما يقول على الأرجح شيئًا عن مدى جديته في التعامل مع المشكلة.
رؤية مختلفة من الرئيس التنفيذي لشركة ريبل
ليس الجميع في عالم العملات المشفرة والتكنولوجيا المالية الأوسع يشارك في التشاؤم. الرئيس التنفيذي لشركة ريبل، براد جارلينجهاوس، اتخذ موقفًا أكثر تفاؤلاً بشأن الذكاء الاصطناعي، قائلاً إنه يمكن أن يدفع بالنمو للشركة. لقد أقر بأن وجهة نظره تعتبر متناقضة بعض الشيء داخل الصناعة — مما يعني أنه حتى هو يعرف أن المتشائمين صوتهم عالٍ في الوقت الحالي. لكنه لا يزال متمسكًا بالحالة الإيجابية على أي حال.
هذا فجوة واسعة جدًا. من جهة، مهندس سابق في ريبل يضع احتمالات الانقراض البشري في خانة الأرقام المزدوجة. ومن جهة أخرى، يرى الرئيس التنفيذي الحالي لشركة ريبل محركًا للنمو. كلاهما ربما يكونان على حق بشأن أشياء مختلفة. يمكن أن يكون الذكاء الاصطناعي ذا قيمة هائلة وخطيرًا بشكل هائل في نفس الوقت. هاتان الحالتان ليستا متناقضتين، وسجل الصناعة في التعامل معهما كمشاكل منفصلة هو بالضبط ما قال كوكسون إنه لا يستطيع العيش معه بعد الآن.
لم يحدد كوكسون ما الذي سيستغرقه للعودة إلى الطاولة، أو ما إذا كان ذلك حتى على البطاقات. لا يزال يأمل في التعاون لكنه لم يضع خارطة طريق. لا يزال هوبينجر في أنثروبيك، لا يزال يختبر أنظمة السلامة، لا يزال يعمل على المشكلة دون حل واضح في الأفق.
كلاود فابل 5.1 وكلاود ميثوس 5.1 يتم شحنهما. GPT-6 Astra أصبح متاحًا. السباق لم يتوقف بسبب التحذيرات.
المركز: سعر XRP، الأخبار والتحليل
الأسئلة الشائعة
ما هو خلفية إيفان هوبينجر قبل أنثروبيك؟
عمل هوبينجر كمهندس برمجيات في ريبل، حيث ساهم في بروتوكول إنترليدجر، قبل أن يركز على علوم الكمبيوتر النظرية وأبحاث سلامة الذكاء الاصطناعي في أنثروبيك.
لماذا غادر جاكوب كوكسون أنثروبيك؟
استقال كوكسون مشيرًا إلى مخاوف بشأن السباق غير المنضبط للصناعة نحو الذكاء الفائق ذاتي التحسين، وانتقد الشركات الكبرى في مجال الذكاء الاصطناعي بما في ذلك أنثروبيك وأوبن إيه آي لعدم الكشف الكافي عن المخاطر المرتبطة بأبحاثهم.
ما هي النماذج الجديدة للذكاء الاصطناعي التي تم إصدارها في وقت هذه التحذيرات؟
Hub: XRP : السعر والأخبار والتحليل
أطلقت أوبن إيه آي نموذج GPT-6 Astra في 3 سبتمبر، ووصفه الرئيس التنفيذي لشركة نفيديا، جنسن هوانغ، بأنه خطوة نحو الذكاء الفائق، بينما أطلقت أنثروبيك كلاود فابل 5.1 وكلاود ميثوس 5.1، مع التركيز على قدرات البرمجة والبحث العلمي.
