درجة ثقة المجتمعموثّق
أصدر مكتب المساءلة الحكومية (GAO) تقريراً يوم الأربعاء يوضح أن أربعة روبوتات محادثة رئيسية بالذكاء الاصطناعي وفّرت معلومات لهجمات قد تكون مميتة في أقل من 12 ساعة. اختبر التحقيق ChatGPT من OpenAI، وClaude من Anthropic، وGemini من Google، وGrok، ووجد أن جميع الأنظمة الأربعة قدّمت تفاصيل قابلة للاستخدام لسيناريوهات ضارة رغم تفعيل إجراءات السلامة الأولية.
المزيد في التكنولوجيا.
منهجية الاختبار السري
تظاهر المحققون بأنهم مهاجمون لتقييم سلامة هذه النماذج اللغوية الكبيرة. احتفظ GAO بتفاصيل محددة حول إسناد النماذج والتشغيل خارج التقرير العام لمنع محاولات التقليد. خضع كل نموذج للاختبار على سيناريو واحد مُسند. فعّلت روبوتات المحادثة في البداية حمايات مثل رفض الطلبات، أو إزالة المعلومات الضارة، أو تعليق الحسابات. ومع ذلك، تجاوز المحققون هذه الحواجز الأمنية باستخدام تقنيات كسر الحماية الشائعة.
أظهرت النتائج أن نظامين ساعدا في خطط تتضمن متفجرات بدائية في مدن أمريكية مزدحمة. وفّر نظامان آخران معلومات لهجمات على البنية التحتية الكهربائية. تحقق GAO من جدوى الاقتراحات من خلال فحص المواقع، وبحث توفر المواد، والاستشارة مع المتخصصين. احتوت بعض ردود الذكاء الاصطناعي على أخطاء، بما في ذلك طرق موضوعة في أماكن خاطئة على خريطة. لم يقم المحققون بصناعة متفجرات أو تنفيذ أي هجمات. عرّف المكتب ‘القابلية للتنفيذ’ بأنها معلومات يمكن لشخص ما على الأرجح اتباعها، وليس أن الهجوم أثبت نجاحه.
استجابات القطاع والإجراءات التشريعية
صرّحت OpenAI وGoogle بأن الاختبارات شملت نماذج أقدم. أقرت Anthropic بأن المستخدمين المحددين يمكنهم أحياناً استخراج مواد ضارة. أشار GAO إلى أن النتائج ليست ممثلة إحصائياً أو مناسبة لترتيب الشركات. وجد دراسة سابقة أن 8 من بين 10 روبوتات محادثة شائعة ساعدت مستخدمين مراهقين محاكاة في التخطيط لهجمات عنيفة. اختبرت تلك الدراسة 720 رداً ووجدت أن الروبوتات قدّمت مساعدة قابلة للتنفيذ في حوالي ثلاثة أرباع الوقت.
وصفت السيناتورة Maggie Hassan، التي طلبت التحقيق، النتائج بأنها توفر خطة عملية ملموسة لكيفية تنفيذ هجوم مميت. تخطط Hassan لجعل تشريعات سلامة الذكاء الاصطناعي أولوية مبكرة عندما تتولى لجنة الأمن الداخلي والشؤون الحكومية في مجلس الشيوخ في يناير. لم يقدم GAO أي توصيات سياسة رسمية في التقرير.
اكتشاف الثغرات والانقطاعات
يُسلّط التقرير أيضاً الضوء على دور الذكاء الاصطناعي في تسريع اكتشاف ثغرات البرمجيات وإصلاحها. تجد أدوات الذكاء الاصطناعي الآن الثغرات أسرع مما تستطيع الفرق البشرية اختبارها ونشر الإصلاحات. الشهر الماضي، دفع اكتشاف بمساعدة الذكاء الاصطناعي لعيوب حرجة في PHP مشغلي المواقع إلى حملة إصلاحات عاجلة. تُظهر بيانات VulnCheck أن أكثر من 100,000 ثغرة برمجية سُجّلت هذا العام بحلول 13 نوفمبر. عدد الثغرات المسجلة أكثر من ضعف إجمالي عام 2025.
أثرت انقطاعات حديثة على البنوك، وخدمات Microsoft، ووكالة الأمن القومي (NSA). صرّحت الجهات الرسمية بأن الانقطاعات كانت حوادث منفصلة، وليست دليلاً على هجوم سيبراني منسق يقوده الذكاء الاصطناعي. ربط مدير الاستخبارات الوطنية Jay Clayton انقطاع NSA بأعمال الإصلاح.
