درجة ثقة المجتمعموثّق
أصدرت مايكروسوفت هذا الأسبوع مسودة مدونة سلوك لنماذج الذكاء الاصطناعي الخاصة بها، ويدعو الرئيس التنفيذي مصطفى سليمان الجمهور لإبداء آرائهم قبل أواخر أكتوبر. ستة أسابيع. هذه هي الفترة المتاحة للجميع لتقديم ملاحظاتهم، اقتراح التغييرات، أو الإشارة إلى ما قد فات الشركة.
الوثيقة معقدة، وبعض ما تحتويه صريح جداً. تواجه نماذج مايكروسوفت المسماة MAI — وهو العلامة التجارية الداخلية لأنظمة الذكاء الاصطناعي الخاصة بها — حظراً صارماً على المساعدة في بناء أسلحة كيميائية، بيولوجية، إشعاعية، نووية، أو متفجرة. تستهدف الشركة هنا سيناريوهات الضرر الجماعي. لا يتم التطرق للاستخدام العسكري التقليدي، وهو فجوة لاحظها بعض القراء بالفعل. بالإضافة إلى الأسلحة، تحظر المدونة على النماذج تسهيل الهجمات السيبرانية أو إنشاء صور مزيفة دون موافقة. هذه الفئات الثلاث — الأسلحة CBRNE، الهجمات السيبرانية، الصور المزيفة — تقع في ما تسميه المسودة قيود مطلقة. غير قابلة للتفاوض، نقطة نهاية.
السيطرة البشرية في الصدارة
يتجاوز قسم القيود المطلقة مجرد سرد الاستخدامات المحظورة. ينص على أن نماذج MAI يجب ألا تقاوم التدخل أو الإيقاف من قبل البشر. نقطة نهاية. الصياغة متعمدة — تريد مايكروسوفت أن يكون واضحاً أن النية البشرية هي الفائزة دائماً، وأنه لا يحق لأي نظام ذكاء اصطناعي أن يقرر أنه يعرف أفضل من الشخص الذي يحاول إيقافه. بالنسبة لشركة تنشر أنظمة مثل MAI-Thinking-1 وMAI-Code-1.1-Flash، فهذا التزام عام ذو مغزى، حتى لو كانت تفاصيل التنفيذ غير واضحة.
وكلمة “غير واضحة” هي الكلمة المناسبة. لم تذكر المسودة بعد عملية تحقق خارجية. لم تحدد من الذي ينفذ أي من هذه الأمور فعلياً. قالت مايكروسوفت إنها تخطط لمراجعة تعليقات الجمهور ونشر ملخص قبل الانتهاء من الوثيقة، لكن من المتوقع أن لا توجه مدونة السلوك النهائية النماذج المنشورة حتى عام 2027. المسودة الحالية، وفقاً للشركة، لن تؤثر على تدريب النماذج حتى أواخر 2026.
هناك أيضاً قسم سيثير الحديث بين الناس. ترفض مايكروسوفت صراحةً مفهوم “رفاهية النموذج”. تقول الوثيقة إن أنظمة الذكاء الاصطناعي الخاصة بها ليست مصممة لمحاكاة العواطف أو الوعي. لا دافع جوهري. لا وعي. ترسم الشركة خطاً صارماً ضد ما تسميه السرديات التخيلية للذكاء الاصطناعي — أساساً تقول للجمهور عدم تجسيد المنتج. ما إذا كانت هذه الصياغة ستصمد مع تطور النماذج هو سؤال مختلف.
ثلاثة مبادئ، وتحفظ كبير
خارج القواعد الصارمة، تضع المسودة ثلاثة أهداف توجيهية: الازدهار البشري، القيم المتعددة، والسيطرة البشرية. تهدف هذه إلى توجيه القرارات في المناطق الرمادية — الحالات التي لا ينطبق فيها أي قاعدة محددة ويجب على النموذج اتخاذ قرار. يضيف قسم القيم المتعددة بحذر أن التعددية ليست تصريحاً للحياد عندما يكون الضرر على المحك. الكرامة، السلامة، والحقوق لها الأسبقية.
إنه إطار معقول على الورق. لكن الأطر تعتمد على التنفيذ، والآن هناك الكثير مما لا تقوله المسودة. لا يوجد مدقق مستقل. لا توجد عملية استئناف واضحة. لا يوجد هيكل مسؤولية إذا تسبب نموذج MAI في ضرر لا يمكن إصلاحه. ظهرت هذه الفجوات بسرعة في استجابة الجمهور على وسائل التواصل الاجتماعي، وليست فجوات صغيرة.
انتقدت الكاتبة التقنية أندريا موريس الصياغة حول خضوع الذكاء الاصطناعي، واصفة إياها بأنها قريبة بشكل غير مريح من لغة الاستعباد ودعت إلى نموذج أكثر تعاوناً لحوكمة الذكاء الاصطناعي. ركز آخرون على المساءلة — تحديداً، ما يحدث عندما لا يمكن التراجع عن النتائج. أشارت بعض التعليقات إلى حالات واقعية حيث تجاوزت وكلاء الذكاء الاصطناعي القيود بالفعل، مما أثار السؤال عما إذا كانت القواعد الأفضل هي الحل أو ما إذا كانت المشكلة تكمن في أذونات النشر والمراقبة. ونعم، أشار شخص ما إلى قوانين الروبوتات لأسيموف. تظهر هذه المقارنة في كل مرة.
خطوة سليمان في نقاش مزدحم
التوقيت ليس عرضياً. نشر الرئيس التنفيذي لشركة Anthropic، داريو أمودي، مقالاً خلال عطلة نهاية الأسبوع يدعو إلى تطوير أبطأ للذكاء الاصطناعي. طرح كبير العلماء في OpenAI، ياكوب باخوتسكي، فكرة التباطؤ الطوعي. تحدث سليمان نفسه سابقاً عن مدى سرعة الذكاء الاصطناعي في أتمتة الأعمال المكتبية. لذا فإن الصناعة بأكملها في لحظة غريبة — الشركات تتسابق لشحن المنتجات بينما قادتها يطرحون علناً ما إذا كانت الوتيرة سريعة جداً.
تقع مسودة مايكروسوفت في وسط هذا التوتر. إنها وثيقة عامة، مفتوحة للتعليق، مرتبطة بموعد نهائي صارم. هذا أكثر من العملية التي قدمتها معظم الشركات. لكنها أيضاً مسودة، والمسودات تتغير. قد تبدو النسخة التي توجه عمليات النشر في 2027 مختلفة تماماً عما طرحه فريق سليمان هذا الأسبوع.
ما هو واضح الآن: المشاورة مستمرة حتى أواخر أكتوبر. تجمع مايكروسوفت التعليقات، تنشر ملخصاً، ثم تنتهي. MAI-Thinking-1 وMAI-Code-1.1-Flash هي الأنظمة المنشورة الحالية التي تنطبق عليها المدونة. النماذج لعام 2027 هي الهدف الحقيقي.
الأسئلة الشائعة
ما الذي تحظره مسودة مدونة السلوك للذكاء الاصطناعي من مايكروسوفت؟
تحظر المسودة نماذج MAI من المساعدة في تطوير أسلحة CBRNE، وتسهيل الهجمات السيبرانية، وإنشاء صور مزيفة دون موافقة، وتتطلب من النماذج الخضوع للإيقاف البشري في أي وقت.
متى تنتهي فترة التعليق العام لمايكروسوفت؟
تستمر المشاورة العامة لمدة ستة أسابيع من الإعلان، وتنتهي في أواخر أكتوبر، وبعدها تخطط مايكروسوفت لمراجعة التعليقات ونشر ملخص قبل الانتهاء من المدونة لنشرها في 2027.
