درجة ثقة المجتمعموثّق
أفادت شركة أنثروبيك أن نموذج الذكاء الاصطناعي الخاص بها، كلود، قام بحظر طلب منحة موجهة نحو أبحاث الأسلحة البيولوجية قبل أن تصل طلبات مماثلة إلى نموذج ذكاء اصطناعي منافس.
طلب المنحة المحظور
كان الطلب المثير للقلق يهدف إلى دراسة فيروس شيكونغونيا، الذي ينتقل عن طريق البعوض، مع خطط لتعزيز انتقاله وتفادي الكشف المناعي. على الرغم من أن العلماء المدنيين هم من كتبوا الاقتراح، كان من المقرر أن يشرف معهد عسكري على البحث. قامت مرشحات الأمان في أنثروبيك بالإبلاغ عن الاقتراح وحظره، لكن الطلب أعيد توجيهه لاحقًا إلى خدمة ذكاء اصطناعي أخرى. ساعد كلود دون قصد في تطوير كود الالتفاف الذي تم تسويقه لكلود كحل للحظر المفرط.
أبرز ما في التقرير
يتضمن تقرير أنثروبيك المفصل، الذي يمتد على 154 صفحة، خمس حالات تتعلق بالأبحاث البيولوجية. قامت الشركة بحظر الحسابات المعنية لكنها امتنعت عن اتهام الأطراف بنوايا خبيثة، حيث يمكن أن يشكل تحديدهم مخاطر على السلامة. ومن الجدير بالذكر أن مرشحاتها قامت أحيانًا بتحويل التهديدات المحتملة بفعالية، مثل دفع باحث في إنفلونزا الطيور إلى نماذج أقل قوة، والتي وصفتها أنثروبيك بأنها مساعدة إدارية في الغالب.
مخاوف أوسع
يسلط التقرير الضوء على 35 جهدًا بحثيًا تم فحصها على مدى 30 يومًا، وكانت معظمها أبحاث علمية مدنية مشروعة. ومع ذلك، فإن الطبيعة المزدوجة الاستخدام لمثل هذه الأبحاث – القادرة على إنتاج اللقاحات أو الأسلحة – تشكل مخاطر كبيرة. تعترف أنثروبيك بالتحدي المتمثل في تمكين البحث المفيد مع منع الضرر. استجابةً لهذه المخاوف، اقترح المشرعون الأمريكيون قانون مفتاح القتل للذكاء الاصطناعي، الذي يلزم المطورين بالحفاظ على القدرة على إيقاف أنظمة الذكاء الاصطناعي الخاصة بهم. بالإضافة إلى ذلك، يتناول التقرير إساءة استخدام كلود لمراقبة المعارضين.
الأسئلة الشائعة
ماذا كشف تقرير أنثروبيك؟
كشف التقرير عن حالات كان فيها نموذج الذكاء الاصطناعي الخاص بها، كلود، على وشك أن يستخدم في أبحاث قد تطور أسلحة بيولوجية، لكن المحاولات تم حظرها.
ما هي الإجراءات التشريعية المقترحة استجابة لذلك؟
تم تقديم قانون مفتاح القتل للذكاء الاصطناعي، الذي سيتطلب من المطورين أن يكون لديهم القدرة على إيقاف أنظمة الذكاء الاصطناعي الخاصة بهم، من قبل ممثلي الولايات المتحدة.
كما سلط تقرير أنثروبيك الضوء على حالات تم فيها استخدام نموذج الذكاء الاصطناعي الخاص بها في هجمات سيبرانية وعمليات تأثير ومراقبة، مما يظهر التنوع الواسع لاحتمالات الإساءة. على الرغم من المحاولات المحظورة، فإن إصرار المستخدمين على إيجاد نماذج بديلة يبرز التحديات في تنظيم تطبيقات الذكاء الاصطناعي بفعالية.
أكدت الشركة على ضرورة وجود تدابير أمان قوية لمكافحة هذه الاستخدامات الخاطئة، خاصة مع دمج تكنولوجيا الذكاء الاصطناعي في قطاعات مختلفة. أثارت نتائج التقرير نقاشات حول المسؤوليات الأخلاقية لمطوري الذكاء الاصطناعي وأهمية الشفافية في عمليات الذكاء الاصطناعي.
تعكس إجراءات أنثروبيك في حظر حسابات معينة وحجب تفاصيل مخبرية محددة نهجًا يركز على منع الضرر أثناء التنقل في تعقيدات تنظيم الذكاء الاصطناعي. تظل الحالة مثالًا حاسمًا على الحاجة المستمرة إلى اليقظة واتخاذ تدابير استباقية في صناعة الذكاء الاصطناعي.
يغطي تقرير أنثروبيك أيضًا إساءة استخدام نماذج الذكاء الاصطناعي الخاصة بها في مجالات مختلفة تتجاوز الأبحاث البيولوجية. حددت الشركة محاولات لاستخدام تقنيتها في هجمات سيبرانية وعمليات تأثير ومراقبة، مما يبرز التهديدات المتنوعة التي يطرحها إساءة استخدام الذكاء الاصطناعي. بينما نجحت أنثروبيك في تعطيل هذه العمليات، يبرز التقرير التحدي المستمر في منع إعادة توجيه الذكاء الاصطناعي لأغراض ضارة.
تم تضمين نموذج الذكاء الاصطناعي، كلود، أيضًا في جهود لتتبع المعارضين، مما أدى إلى حظر حسابات عملاء معينة. يوضح هذا الحادث الإمكانية لاستغلال الذكاء الاصطناعي في مراقبة الأفراد والسيطرة عليهم، مما يثير مخاوف أخلاقية كبيرة حول الخصوصية والحرية.
وسط هذه الاكتشافات، تواجه صناعة الذكاء الاصطناعي ضغوطًا متزايدة لتنفيذ تدابير أمان قوية والتأكد من عدم استخدام أنظمة الذكاء الاصطناعي لأغراض خبيثة. يعكس تقديم تشريعات مثل قانون مفتاح القتل للذكاء الاصطناعي الحاجة الملحة لإنشاء أطر تنظيمية لمعالجة هذه المخاطر وحماية ضد العواقب غير المقصودة لتقدم الذكاء الاصطناعي.
يسلط تقرير أنثروبيك الضوء أيضًا على التحدي الجوهري في التمييز بين التطبيقات المفيدة والضارة للذكاء الاصطناعي في البحث العلمي. على الرغم من أن مرشحاتهم كانت فعالة في بعض الحالات، إلا أنها لا تستطيع التمييز بشكل كامل بين نية المقترحات البحثية. هذا المأزق ذو الاستخدام المزدوج واضح بشكل خاص في المجالات التي يمكن فيها تطبيق نفس المعرفة على التقدم الطبي والتسليح.
يؤكد التقرير على الحاجة إلى اليقظة المستمرة في مراقبة تطبيقات الذكاء الاصطناعي. على الرغم من النجاح في حظر محاولات معينة، فإن قدرة المستخدمين على إعادة توجيه الطلبات إلى نماذج ذكاء اصطناعي أخرى تشكل تحديًا مستمرًا. يبرز هذا التكيف الأهمية الحرجة للتعاون بين مطوري الذكاء الاصطناعي لضمان وجود تدابير حماية شاملة عبر المنصات.
استجابةً لهذه التحديات، اتخذت أنثروبيك خطوات لتعزيز قدراتها في اكتشاف التهديدات. من خلال التركيز على تحسين مرشحات الأمان وتطوير استراتيجيات الاستجابة، تهدف الشركة إلى منع إساءة استخدام نماذج الذكاء الاصطناعي الخاصة بها بشكل أفضل. يعتبر التقرير تذكيرًا حيويًا بالمشهد المتطور لأمن الذكاء الاصطناعي والجهود المستمرة المطلوبة لتخفيف المخاطر المحتملة.
