درجة ثقة المجتمعموثّق
أجرى بيل سويرينجن 31 مليون اختبار من منزله في مدينة كانساس. النتيجة: نمط يجعل المركبات غير مرئية عمليًا لكاميرات المراقبة فلوك — دون لمس العدسة، ودون حجب أي إطار من اللقطات.
المشروع، الذي يُطلق عليه noRecognition، يستهدف طبقة برامج الكشف عن الأجسام الموجودة خلف الكاميرا. تواصل كاميرات فلوك التسجيل بشكل طبيعي. الذكاء الاصطناعي فقط لا يمكنه التعرف على ما ينظر إليه. يقوم سويرينجن بذلك من خلال التعلم الآلي العدائي — أنماط تولد ضوضاء بصرية مصممة خصيصًا لتشويش خوارزميات التعرف. يولد نموذج التعلم المعزز أنماطًا جديدة كل دقيقة، ويقوم بتعديلها باستمرار للبقاء متقدمًا على ما تتوقعه برامج الكاميرا. وصف سويرينجن عملية التدريب بأنها تعليم النموذج “كيفية الرسم”. يحتفظ بالأنماط الأكثر فعالية دون اتصال. عمدًا. لا يريد أن يحصل بائعو الكاميرات عليها ويقومون بتصحيح الثغرة.
ذكي جدًا، بصراحة.
عرض Def Con
لم يكتف سويرينجن بالنظرية فقط. ذهب إلى Def Con وأظهر الشيء يعمل في العالم الحقيقي، إلى جانب Donut Media. قاموا بتغليف سيارة تويوتا ياريس 2009 بأحد أنماطه الأخيرة وقادوها أمام كاميرا فلوك. سجلت الكاميرا المرور. لم تسجل برامج الكشف وجود مركبة. اجتاز الاختبار. أشار سويرينجن إلى أن تطبيق النمط على العجلات كان صعبًا بشكل خاص — الهندسة هناك معقدة — لكن النتيجة العامة كانت متماسكة. تخطط Donut Media لإصدار لقطات من العرض، رغم أنه لم يُحدد تاريخ دقيق لإصدارها.
فلوك كانت مثيرة للجدل لفترة من الوقت الآن. تنتشر كاميرات المراقبة التابعة للشركة بسرعة في جميع أنحاء الولايات المتحدة، وزاد رد الفعل من دعاة الخصوصية مع هذا التوسع. أحد المقترحات التي لاقت انتقادًا حادًا: تحويل كاميرات لوحة القيادة في أوبر وليفت إلى وحدات مسح للوحة الأرقام المتنقلة. هذه الفكرة وحدها أثارت موجة جديدة من القلق حول مدى وصول تتبع المركبات الآلي إلى الحياة اليومية.
والعواقب المترتبة على الخطأ ليست مجردة. حوادث حيث أخطأت قارئات لوحات الأرقام الآلية في تحديد المركبات أدت إلى احتجاز أبرياء تحت تهديد السلاح. بالنسبة للمهاجرين والمتظاهرين على وجه الخصوص، فإن مخاطر الوقوع في شبكات المراقبة المدعومة بالذكاء الاصطناعي شديدة. كان دعاة الخصوصية يراقبون كل ذلك عن كثب، بحثًا عن زوايا قانونية للرد.
زاوية الخصوصية والمناطق القانونية الرمادية
شارك سويرينجن في تأسيس اجتماع SecKC للأمن، وهو منفتح جدًا حول ما يدفعه هنا. يرى noRecognition كأداة للناس “للاختيار بعدم التتبع”. قلقه بشأن المراقبة أثناء الاحتجاجات هو جزء مما دفعه لبناء هذا في المقام الأول. لا يخفي الدافع.
الصورة القانونية، مع ذلك، غير واضحة. تختلف قوانين حجب اللوحات حسب الولاية، ومن غير الواضح كيف ستتعامل السلطات القضائية المختلفة مع مركبة مغلفة بنمط عدائي. تغطي تصميمات سويرينجن فقط جسم السيارة — وليس لوحات الأرقام نفسها — مما قد يكون له أهمية قانونية. لكن “ربما” ليست “بالتأكيد”، ولم يقم أحد برسم خريطة كاملة للتعرض حسب الولاية بعد. هذه الغموض لن يزول قريبًا.
noRecognition يجمع أيضًا الأموال. أطلق سويرينجن حملة تمويل جماعي لإنتاج قمصان وبلوزات، وفي النهاية تغليفات للمركبات تحمل الأنماط. لذا هناك زاوية منتج استهلاكي هنا أيضًا، وليس مجرد مشروع بحث أمني في مختبر.
عمل سويرينجن يتناسب مع تقليد طويل من الأشخاص الذين يجدون طرقًا إبداعية لتعطيل أنظمة المراقبة. كانت التكتيكات السابقة منخفضة التقنية إلى حد ما — مثل وضع أقماع المرور على المركبات الذاتية القيادة لتجميدها، على سبيل المثال. noRecognition هو شيء مختلف. إنه نظام تعلم آلي يقاتل نظام تعلم آلي آخر، نمط ضد نمط، محدث كل دقيقة. هذه فئة مختلفة تمامًا من المقاومة.
بصمة فلوك الأوسع
فلوك ليست التكنولوجيا الوحيدة للمراقبة التي تواجه التدقيق الآن. كان المشرعون يدفعون بقوة أكبر على التعرف على الوجوه بشكل عام، بما في ذلك استخدام Meta له في النظارات الذكية. البيئة السياسية حول المراقبة الآلية تتغير، وتوقيت سويرينجن — الخروج إلى العلن في Def Con مع عرض حي — يقع في وسط تلك المحادثة.
يقول إنه سيواصل تحسين النموذج. تصبح الأنماط أكثر فعالية مع مرور الوقت حيث يواصل نظام التعلم المعزز التدريب. ما إذا كان ذلك يتجاوز أي تدابير مضادة قد يبنيها بائعو الكاميرات في النهاية غير واضح. لا توجد تفاصيل حول ذلك حتى الآن.
قادت سيارة تويوتا ياريس 2009 أمام كاميرا فلوك. لم ير البرنامج شيئًا.
الأسئلة الشائعة
كيف يتجنب نمط noRecognition لبيل سويرينجن كاميرات فلوك؟
تستخدم الأنماط التعلم الآلي العدائي لتوليد ضوضاء بصرية تشوش برامج الكشف عن الأجسام في فلوك، بينما تواصل الكاميرا نفسها تسجيل اللقطات بشكل طبيعي.
ماذا أظهر سويرينجن في Def Con؟
قام هو وDonut Media بقيادة سيارة تويوتا ياريس 2009 مغلفة بأحد أنماطه أمام كاميرا فلوك، متجنبين بنجاح الكشف عن المركبة خلال الاختبار الحي.
