درجة ثقة المجتمعLikely Real
ديفيد جروس لا يراوغ. يقول عالم الفيزياء الحائز على جائزة نوبل إن خطر الحرب النووية السنوي قد تضاعف — من حوالي 1% خلال الحرب الباردة إلى حوالي 2% اليوم. هذا ليس خطأ في التقريب. هذا عالم مختلف جذريًا.
يعزو جروس هذا التحول إلى عدة ضغوط متلاقية: تسع دول تمتلك الآن قدرات نووية، وتم تقويض معاهدات الحد من الأسلحة بشكل مستمر، وتدار الأنظمة العسكرية بشكل متزايد بواسطة منصات مؤتمتة ومدفوعة بالذكاء الاصطناعي. أي من هذه الاتجاهات قد يكون مقلقًا بمفرده. مجتمعة، فإنها تعيد تشكيل ما يبدو عليه الأمن العالمي — وليس في اتجاه جيد.
تسع دول نووية، وشبكات أمان أقل
كانت الحرب الباردة مليئة بالرعب، لكنها كانت في الأساس لعبة ثنائية. واشنطن وموسكو. خطوط ساخنة، معاهدات، ردع متبادل. فوضوية، مرعبة، لكنها قابلة للإدارة بطريقة لا يمكن أن تكون عليها تسع دول مسلحة نوويًا.
قلق جروس هو أن المزيد من اللاعبين يعني المزيد من الفرص لسوء الفهم. إشارة تُفسر بشكل خاطئ. مناورة عسكرية تُعتبر هجومًا أوليًا. حليف يُجر إلى صراع بدأ كخطأ إقليمي. الحسابات تصبح قبيحة بسرعة. والأطر الخاصة بالحد من الأسلحة التي كانت توفر بعض الهيكل حول كل هذا — الاتفاقيات التي فرضت الشفافية، التي بنت آليات التحقق، التي أبقت قنوات الاتصال مفتوحة — تلك كانت تتآكل لسنوات. يرى جروس أن هذا التآكل يشكل خطرًا حقيقيًا، وليس مجرد إزعاج دبلوماسي. بدون تلك الحواجز، تزداد احتمالية حدوث خطأ في الحسابات يتصاعد بشكل كبير.
من الجدير التوقف عند نسبة 2% هذه للحظة. لكل سنة. مما يعني أنه على مدى 50 عامًا، تصبح الاحتمالية التراكمية للحرب النووية شيئًا لا يمكن لأي شخص جاد أن يتجاهله. جروس لا يتنبأ بها. لكنه يقول إن الاحتمالات حقيقية بما يكفي لدرجة أن البشرية تحتاج إلى التعامل معها على هذا النحو.
الأسلحة الفرط صوتية تقلص الوقت
هنا يصبح الأمر أكثر إلحاحًا. الصواريخ الفرط صوتية لا تطير بسرعة أكبر فقط — بل تقلص نافذة اتخاذ القرار للقادة الوطنيين بطرق لم تكن التكنولوجيا القديمة للأسلحة تفعلها. الصاروخ الباليستي كان يمنحك دقائق. الصواريخ الفرط صوتية يمكن أن تقلص ذلك بشكل كبير. يحذر جروس من أن القادة قد لا يكون لديهم الوقت الكافي للتحقق من التهديد بشكل صحيح، أو استشارة المستشارين، أو اتخاذ قرار مستنير حقًا قبل أن يضطروا إلى التصرف.
هذه مشكلة هيكلية. وتزداد سوءًا عندما تضيف أنظمة الكشف والاستجابة المؤتمتة. هذه المنصات مصممة لتحديد التهديدات الواردة، وفي بعض التكوينات، بدء الاستجابات مع تدخل بشري ضئيل. جروس واضح جدًا بشأن الخطر: يمكن للأنظمة المؤتمتة أن تفسر الإشارات بشكل خاطئ. يمكنها ربط استنتاجات غير صحيحة معًا. يمكنها إنتاج نتائج لم يرغب بها أي إنسان في الغرفة فعليًا.
العالم الفيزيائي ليس ضد التكنولوجيا بشكل عام. لكنه واضح أن السرعة والأتمتة في السياقات العسكرية تخلق مخاطر محددة لا توجد في، على سبيل المثال، اللوجستيات أو التصنيع. عندما يتخذ نظام ذكاء اصطناعي قرارًا خاطئًا في سلسلة التوريد، تخسر المال. عندما يتخذ قرارًا خاطئًا في سياق عسكري قريب من النووي، تكون العواقب مختلفة تمامًا.
الحاجة إلى إبقاء البشر في الحلقة
حجة جروس الأساسية بسيطة: يجب أن يبقى الإشراف البشري في مكانه. ليس كإجراء شكلي بيروقراطي، بل كتحقق حقيقي من الأنظمة المؤتمتة التي يمكن أن تتعطل تحت الضغط، أو تصنف المدخلات بشكل خاطئ، أو تتصرف بطرق لم يتوقعها مصمموها.
ليس وحده في هذا القلق. النقاش الأوسع حول الذكاء الاصطناعي في صنع القرار العسكري يزداد صخبًا عبر دوائر الدفاع، ومراكز الأبحاث، والمنتديات الدولية لسنوات. القلق ليس أن الذكاء الاصطناعي متهور بطبيعته — بل أن الذكاء الاصطناعي الذي يعمل تحت ضغوط محددة للكشف عن التهديدات العسكرية يمكن أن يفشل بطرق يصعب التنبؤ بها وكارثية التعافي منها.
يريد جروس قنوات اتصال قوية بين الدول المسلحة نوويًا محفوظة ومقوية. يريد آليات التحقق محفوظة. ويريد أن يبقى الحكم البشري في مركز أي قرار يمكن أن يؤدي إلى تصعيد.
هذه النقطة الأخيرة هي الأهم. يمكن للأتمتة التعامل مع الكثير. لكن موقف الفيزيائي هو أن هناك قرارات — تحديدًا تلك التي يعني الخطأ فيها وقوع ضحايا جماعية — حيث لا يمكن السماح للسرعة واليقين الزائف بأن يحلوا محل التفكير البشري المتعمد.
القلق بشأن أخطاء الذكاء الاصطناعي محدد أيضًا. ليس فقط أن النظام قد يخطئ في قراءة توقيع الرادار. بل أن المنصات المؤتمتة يمكن أن تربط سلسلة من الاستنتاجات التي تبدو معقولة بشكل فردي وتصل إلى نتيجة خاطئة بشكل سيء — وتفعل ذلك بشكل أسرع من أي تدخل بشري. يرى جروس أن هذا وضع فشل حقيقي، وليس نظريًا.
تسع دول نووية. معاهدات تضعف. أنظمة تسليم فرط صوتية. منصات كشف مدفوعة بالذكاء الاصطناعي تقلص نوافذ القرار إلى ما يقرب من الصفر. يضع جروس الخطر السنوي عند 2% ويزداد.
الأسئلة الشائعة
ما هو تقدير ديفيد جروس لخطر الحرب النووية السنوي الحالي؟
يضع جروس الخطر السنوي للحرب النووية عند حوالي 2% اليوم، ارتفاعًا من حوالي 1% خلال الحرب الباردة — وهو تضاعف يعزوه إلى زيادة الدول المسلحة نوويًا، وتآكل المعاهدات، وأنظمة عسكرية مدفوعة بالذكاء الاصطناعي.
لماذا يحذر جروس من أنظمة اتخاذ القرار العسكري المؤتمتة؟
يحذر جروس من أن الأنظمة المؤتمتة والمدفوعة بالذكاء الاصطناعي يمكن أن تفسر الإشارات بشكل خاطئ، وتربط استنتاجات غير صحيحة معًا، وتنتج تصعيدات غير مقصودة — وهي مخاطر يقول إنها تجعل الإشراف البشري في القرارات العسكرية الحرجة ضروريًا.
