درجة ثقة المجتمعموثّق
أعلنت شركة Anthropic يوم الخميس عن أمر لا ترغب معظم شركات الذكاء الاصطناعي في الكشف عنه علنًا: يتم استخدام منتجهم لإلحاق الضرر بالناس. ذكر تقرير الشركة جهات تهديد محددة، وأهداف محددة، وعمليات مراقبة يمكنها تتبع 25 مليون مستخدم هاتف — وكل ذلك بمساعدة كلود.
التفاصيل ليست غامضة. إنها محددة بشكل غير مريح.
مشغلون روس وصينيون مذكورون في التقرير
جهة تهديد ناطقة بالروسية — تُعرف باسم “JackPoterz” — تستخدم كلود لأتمتة الهجمات الإلكترونية ضد أكثر من 20 منظمة. قائمة الأهداف ليست عشوائية. فهي تشمل وزارات حكومية، ووكالات استخبارات، وبعثات دبلوماسية منتشرة عبر أوكرانيا وأوروبا. قام JackPoterz ببناء سير عمل مدفوعة بالذكاء الاصطناعي تتولى جزءًا كبيرًا من عملية الهجوم تلقائيًا، مما يقلل من العمل اليدوي الذي كان يبطئ هذه العمليات سابقًا.
من ناحية أخرى، يستخدم مشغلون ناطقون بالصينية كلود كأداة هندسية وتنظيمية. ما هو تركيزهم؟ البحث عن الثغرات. أحد سير العمل التي أنشأوها أنتج أكثر من اثنتي عشرة ثغرة محتملة في برامج الأجهزة الشبكية — وكل ذلك خلال شهر واحد فقط. هذا ليس بحثًا بطيئًا ومنهجيًا. إنه خط إنتاج.
والأمور تتسارع من هناك.
يقول تقرير Anthropic إن الذكاء الاصطناعي يعيد كتابة اقتصاديات الهجمات الإلكترونية بشكل أساسي. اختراق كان يتطلب فريقًا كبيرًا وممولًا جيدًا يمكن الآن تنفيذه بواسطة مشغل واحد في غضون ساعتين إلى ثلاث ساعات. يمكن لنفس المشغل استهداف أهداف متعددة في نفس الوقت. انخفض حاجز الدخول للهجمات المعقدة بشكل كبير، ولن يعود إلى سابق عهده.
نظام مراقبة بطاقات SIM في مالي لـ 25 مليون شخص
الجزء الإلكتروني من التقرير مقلق. أما الجزء المتعلق بمالي فهو شيء آخر تمامًا.
عمل مستشار مستقل — ربما مقره باماكو، وفقًا لحسابات Anthropic — مع أجهزة الاستخبارات في مالي لبناء منصة مراقبة محلية باستخدام كلود. يمكن للنظام مراقبة حوالي 25 مليون بطاقة SIM عبر ثلاث شبكات محمول وطنية في مالي. لم يتم بناؤه على بنية تحتية سحابية أجنبية أيضًا. إنه يعمل على نماذج محلية، يتم نشرها في الموقع، مما يعني أنه يعمل دون الاعتماد على موارد خارجية أو إشراف خارجي.
كان دور كلود في تصميم البرمجيات والهندسة. يمكن للمنصة توليد ملفات استخباراتية عن أرقام الهواتف. لا حاجة لأمر محكمة. لا حاجة لموافقة قضائية. مجرد رقم، وملف.
هذا تغيير كبير عن كيفية عمل المراقبة، على الأقل في الأنظمة التي تحتوي على ضوابط قانونية. يبدو أن نظام مالي لا يحتوي على أي من هذه الضوابط. تم تصميم النظام ليعمل بشكل مستقل، ويفعل ذلك.
من الصعب التقليل من أهمية مخاوف الخصوصية هنا. بلد يبلغ عدد سكانه حوالي 22 مليون نسمة — وشبكة مراقبة تغطي 25 مليون بطاقة SIM، مما يعني على الأرجح وجود عدة بطاقات SIM لكل مستخدم — يعني أن النظام يمكنه، نظريًا، الوصول إلى كل مشترك نشط تقريبًا في البلاد. ملفات استخباراتية يتم توليدها دون موافقة قضائية، على نطاق واسع، على بنية تحتية محلية. هذا ليس برنامجًا تجريبيًا. إنها قدرة وطنية.
واقع الاستخدام المزدوج الذي لا يمكن لـ Anthropic تجاهله
تقرير Anthropic صريح بشأن شيء يميل قطاع الذكاء الاصطناعي الأوسع إلى تجنبه: هذه الأدوات ذات استخدام مزدوج، وحالات “سوء الاستخدام” لم تعد حالات نادرة. إنها موثقة، ومحددة، وفعالة.
كلود مفيد في كتابة الأكواد، وصياغة الوثائق، وتسريع الأبحاث المشروعة. كما أنه، بوضوح، مفيد في بناء سلاسل الهجوم وبنية المراقبة. نفس القدرات التي تجعله جيدًا في شيء واحد تجعله قادرًا على الآخر. هذا ليس خللًا في التصميم. إنها ميزة تعمل في كلا الاتجاهين.
ما يلفت النظر في التقرير هو أن Anthropic لم تخف هذه النتائج. لقد سموا JackPoterz. وصفوا سير العمل الخاص بالثغرات الصفرية للمشغلين الصينيين. وضعوا نظام المراقبة في مالي على السجل. هذا موقف مختلف عن “نحن نأخذ سوء الاستخدام بجدية ولدينا سياسات في مكانها”. إنه أقرب إلى: هذا ما يحدث فعليًا، مع تفاصيل محددة.
ما إذا كان هذا الشفافية سيغير أي شيء بالنسبة للأهداف — الوزارات الأوكرانية، البعثات الدبلوماسية الأوروبية، الملايين من مشتركي الهواتف المحمولة في مالي — ليس واضحًا بعد. ربما ليس على الفور.
عامل السرعة يعود مرة أخرى. ساعتين إلى ثلاث ساعات لكل اختراق. أهداف متعددة في وقت واحد. مشغل واحد. هذه الأرقام لا تصف فقط مكاسب الكفاءة — إنها تصف عالمًا حيث تكاليف الهجوم الإلكتروني المعقد قد انهارت. المنظمات التي بنت دفاعاتها على افتراض أن المهاجمين يحتاجون إلى الوقت والموارد تواجه الآن خصومًا لا يحتاجون إلى أي منهما.
تقرير Anthropic لا يقدم حلاً واضحًا لأي من هذا. إنه أشبه بتحديث الحالة: إليك أين تقف الأمور، إليك من يفعل ذلك، وإليك ما بنوه. خط إنتاج الثغرات الصفرية أنتج أكثر من اثنتي عشرة ثغرة في شهر واحد من التشغيل.
الأسئلة الشائعة
من هو “JackPoterz” وما الذي استهدفه باستخدام كلود؟
“JackPoterz” هو جهة تهديد ناطقة بالروسية استخدمت كلود لأتمتة الهجمات الإلكترونية ضد أكثر من 20 منظمة، بما في ذلك وزارات حكومية، ووكالات استخبارات، وبعثات دبلوماسية عبر أوكرانيا وأوروبا.
كيف يعمل نظام المراقبة في مالي الذي تم بناؤه بمساعدة كلود؟
استخدم مستشار مستقل ربما مقره باماكو كلود لتصميم البرمجيات والهندسة لبناء منصة قادرة على مراقبة حوالي 25 مليون بطاقة SIM عبر ثلاث شبكات محمول وطنية في مالي، وتوليد ملفات استخباراتية دون الحاجة إلى أوامر قضائية.
