التكنولوجيا
By Sydney TheCMO
1 / 15
مفتاح واحد، كل نموذج، مشكلة ضخمة. تستخدم هذه الشركات مفتاح تشفير واحد عبر منصتها بالكامل. كل نموذج، كل جلسة.
2 / 15
ما الذي يمكن أن تتيحه الثغرة بالفعل. سرقة البيانات الاعتمادية تتصدر العناوين، لكن الباحثين قدموا صورة تهديد أوسع.
3 / 15
التصحيحات نشطة - لكن السجلات لم تُحذف. النصوص الـ 6,708 التي فك الباحثون تشفيرها؟ لا تزال متاحة للجمهور.
4 / 15
الأسئلة الشائعة
5 / 15
ما هو الخلل في التشفير الذي وجده الباحثون في نماذج التفكير في الذكاء الاصطناعي؟. وجد الباحثون أن Anthropic وOpenAI وGoogle يستخدمون مفتاح تشفير واحد عبر جميع النماذج والجلسات، مما…
6 / 15
كم عدد البيانات الاعتمادية التي تم كشفها في استغلال التفكير في الذكاء الاصطناعي؟. قام الباحثون بفك تشفير 315,320 كتلة تفكير من 6,708 نصوص مشتركة علنًا، مما كشف عن 62 مفتاح API نشط…
7 / 15
كشف باحثون في مجال الأمن عن ثغرة خطيرة في كيفية تعامل الشركات الكبرى في مجال الذكاء الاصطناعي مع التشفير.
8 / 15
تم نشر الورقة في 10 أغسطس. وقد أعدها فريق يضم باحثين من MATS Research ومعهد ELLIS Tübingen ومعهد ماكس بلانك للأنظمة الذكية وشركة الأمن Snyk.
9 / 15
تستخدم هذه الشركات مفتاح تشفير واحد عبر منصتها بالكامل. كل نموذج، كل جلسة. وهذا يعني أن كتلة التفكير المشفرة التي ينتجها نموذج قوي - مثل Claude Opus 4.
10 / 15
لم يكتف الباحثون بالتنظير فقط. بل قاموا بتنفيذ ذلك. قاموا بسحب كتل التفكير من نصوص وكلاء الذكاء الاصطناعي المشتركة علنًا على GitHub وHugging Face.
11 / 15
اثنان وستون مفتاح API نشط. ثلاث وثلاثون كلمة مرور. في العلن.
12 / 15
سرقة البيانات الاعتمادية تتصدر العناوين، لكن الباحثين قدموا صورة تهديد أوسع. يمكن استغلال الخلل لسرقة أنماط التفكير الملكية - المنطق الفعلي لاتخاذ القرارات الذي تنفق شركات الذكاء…
13 / 15
متعلق: معهد سياسة البيتكوين يدعو عمالقة الذكاء الاصطناعي لإعطاء مبرمجي البيتكوين نظرة أولى على النماذج الحدودية
14 / 15
ثم هناك حقن التعليمات غير المرئية. يمكن تضمين تعليمات خبيثة داخل كتل التفكير المشفرة بطريقة لا يمكن لأدوات مراقبة الأمان القياسية اكتشافها. يتم التلاعب بنموذج الذكاء الاصطناعي.
15 / 15
كما أشار الباحثون إلى شيء محدد يتعلق بالفوترة. تطابقت أعداد الرموز المميزة للتفكير مع الرموز المميزة المفوترة للتفكير في API بنسبة 1:1 لمعظم التعليمات. هذا اكتشاف دقيق للغاية.
The Currency Analytics
Want the full story?