درجة ثقة المجتمعموثّق
هل يمكن لشركة أن تبني أسلحة وتحذر منها في نفس الوقت؟ يبدو أن أنثروبيك، الفريق وراء كلود، تحاول فعل ذلك بالضبط.
ما الذي حدث
تم دمج مهندسين من أنثروبيك مباشرة مع وكالة الأمن القومي لتعزيز العمليات السيبرانية الأمريكية ضد الأهداف الأجنبية – حيث تم تسمية الصين كهدف رئيسي. في الوقت نفسه، أصدرت الشركة تقريرًا يحذر من أن الذكاء الاصطناعي قد يتطور قريبًا إلى ما يتجاوز الرقابة البشرية الفعالة، ودعت إلى وقف عالمي لتطوير الذكاء الاصطناعي لتقييم الوضع الحالي. خطوتان. اتجاهان متعاكسان. شركة واحدة.
ليس بالأمر الصغير.
السياق التاريخي
ليست هذه هي المرة الأولى التي تقع فيها شركة تقنية كبرى في مثل هذا المأزق. دخلت جوجل في هذا الوضع في أواخر العقد الثاني من الألفية مع مشروع مافن – عقد ذكاء اصطناعي لتحسين استهداف الطائرات بدون طيار التابعة للبنتاغون. ثار الموظفون، وواجهت الشركة رد فعل شعبي قوي، وفي النهاية انسحبت جوجل من الصفقة. ثم جاءت سنوات سنودن، حيث تم سحب سلسلة من الأسماء في وادي السيليكون إلى العناوين الرئيسية بسبب التعاون مع برامج المراقبة الحكومية بينما كانت تدير حملات إعلانية حول خصوصية المستخدم. الفجوة بين ما قالته هذه الشركات وما فعلته لم تكن دقيقة. ربما تبدو حالة أنثروبيك مألوفة لأي شخص تابع تلك القصص. الأسماء تتغير، لكن التوتر لا يتغير.
لماذا يهم
قد يعزز العمل مع وكالة الأمن القومي فعليًا الدفاع السيبراني الأمريكي. هذا حجة حقيقية، وليست بلا قيمة – خاصة بالنظر إلى مكانة المنافسة السيبرانية بين الولايات المتحدة والصين حاليًا. لكنه أيضًا يضع أنثروبيك في موقف غامض مع العملاء والشركاء الدوليين الذين قد يرون شركة ذكاء اصطناعي مدمجة مع وكالة استخبارات إشارات كشيء أقرب إلى خطر من كونه موردًا. الثقة، بمجرد أن تصبح معقدة، يصعب تبسيطها.
الجانب الآخر من هذا هو تقرير وقف الذكاء الاصطناعي. يستند هذا المستند إلى خوف حقيقي ومتزايد داخل الصناعة – أن أنظمة الذكاء الاصطناعي تتقدم بشكل أسرع من قدرة أي شخص على إدارتها، وأن اللحظة التي يصبح فيها الإشراف البشري اختياريًا بشكل أساسي أقرب مما تبدو. دعوة أنثروبيك للتباطؤ تضع الشركة كصوت للحذر في مجال يركض في الغالب. هذا اختيار متعمد. ربما يساعد ذلك مع الجهات التنظيمية في واشنطن وبروكسل، حيث يجري العمل على تشريعات الرقابة على الذكاء الاصطناعي. وربما يساعد ذلك مع نوع العملاء المؤسسيين الذين يريدون تصديق أن الشركة التي تبني أدوات الذكاء الاصطناعي الخاصة بهم تهتم بالأمور الصحيحة.
لذا يبدو أن اللعب المزدوج استراتيجي. على المدى القصير، تجلب العلاقة مع وكالة الأمن القومي الموارد والوصول والأهمية في دوائر الأمن القومي. على المدى الطويل، يبني الموقف الأخلاقي نوعًا من رأس المال السمعة الذي يمكن أن يشكل كيفية كتابة الجهات التنظيمية للقواعد. ما إذا كان يمكن أن يتعايش هذان الأمران دون أن يقوض أحدهما الآخر في النهاية – غير واضح.
ما يجب مراقبته
الحركة التنظيمية في الولايات المتحدة والاتحاد الأوروبي خلال العام المقبل مهمة جدًا هنا، خاصة أي شيء يتعلق بمخاطر تكرار الذكاء الاصطناعي أو عتبات الأنظمة الذاتية. إذا كان تقرير وقف أنثروبيك يغذي تلك العملية التشريعية، فقد يكون تأثير الشركة على القواعد النهائية كبيرًا.
سلوك المنافسين يستحق المتابعة أيضًا. لم يقم اللاعبون الكبار بخطوات مماثلة علنًا – لم يتم الإعلان عن دمج حكومي مصحوب بدعوات أخلاقية. إذا اتبعوا خطى أنثروبيك أو ابتعدوا عنها بشكل صريح، فإن ذلك يخبرك بشيء عن المكان الذي يعتقد فيه القطاع أن الأرض الآمنة هي.
من الصعب قراءة الرأي العام، لكنه ليس غير ذي صلة. يمكن أن تتغير مؤشرات ثقة المستهلك واستطلاعات الرأي خلال الأشهر القليلة المقبلة إذا ظهرت المزيد من التفاصيل حول عمل وكالة الأمن القومي. نوع العملاء الذين اختاروا أنثروبيك جزئيًا بسبب التزاماتها الأخلاقية المعلنة هم الأكثر احتمالًا لأن يكون لديهم رد فعل.
القطعة الجيوسياسية ربما تكون الجزء الأكثر عدم توقعًا. دمج المهندسين مع وكالة الأمن القومي في عمليات تركز على الصين ليس عملاً محايدًا. يضع أنثروبيك داخل منافسة استراتيجية نشطة بين قوتين رئيسيتين. لهذا عواقب على كيفية عمل الشركة دوليًا، وأي الأسواق تظل مفتوحة لها، ونوع التدقيق الذي تجذبه من الجهات التنظيمية الأجنبية التي تراقب بالفعل الشركات الأمريكية للذكاء الاصطناعي عن كثب.
والسؤال الداخلي – الذي لا يُطرح بما فيه الكفاية في هذه المواقف – هو ماذا يفعل هذا للأشخاص داخل الشركة. لقد قامت أنثروبيك بتوظيف العديد على أساس أنها مختبر الذكاء الاصطناعي المسؤول، الذي يأخذ السلامة على محمل الجد. الموظفون الذين انضموا إلى تلك النسخة من الشركة يعملون الآن في مكان يدير أيضًا عمليات سيبرانية لوكالة الأمن القومي. هذا شيء مختلف. ما إذا كان يخلق احتكاكًا داخليًا، ما إذا كان يؤثر على التوظيف، ما إذا كان يغير من يريد العمل هناك – لا توجد تفاصيل حتى الآن عن أي من ذلك.
التقرير الذي يدعو إلى الحذر في تطوير الذكاء الاصطناعي أشار إلى خطر وصول الأنظمة إلى درجة من الاستقلالية تجعل الإدارة البشرية غير ضرورية. هذا شيء لافت للنشر بينما يساعد في الوقت نفسه وكالة استخبارات إشارات على تشغيل عمليات سيبرانية هجومية مدعومة بنفس التكنولوجيا.
الأسئلة الشائعة
ما هو موقف أنثروبيك من الذكاء الاصطناعي؟
تدعو أنثروبيك إلى وقف عالمي لتطوير الذكاء الاصطناعي لتقييم المخاطر والاتجاهات الحالية.
كيف يؤثر التعاون مع وكالة الأمن القومي على أنثروبيك؟
التعاون يعزز الدفاع السيبراني الأمريكي ولكنه يضع الشركة في موقف معقد مع العملاء الدوليين.
