درجة ثقة المجتمعموثّق
لا تقوم هيئة الرقابة المالية في بريطانيا بكتابة قواعد جديدة للذكاء الاصطناعي. بدلاً من ذلك، تجلس هيئة السلوك المالي مع الشركات، تطرح أسئلة صعبة، وتعتمد على ما هو موجود بالفعل في الكتب.
موقف هيئة السلوك المالي واضح جداً: الأطر الحالية — واجب المستهلك ونظام المديرين الكبار والشهادات، المعروف بـ SM&CR — كافية في الوقت الحالي. لا توجد لوائح جديدة قادمة. ما تريده الهيئة بدلاً من ذلك هو فهم كيفية تشغيل الشركات لأنظمتها الذكاء الاصطناعي يومياً، من هو المسؤول عندما يحدث خطأ ما، وما إذا كان يتم معاملة العملاء — خاصة الضعفاء منهم — بإنصاف. تلك المحادثات تحدث بالفعل. كانت هيئة السلوك المالي في حوار عميق مع الشركات المالية حول اختبار النماذج، مراقبة النتائج، وهياكل الحوكمة. إنه ليس نهجاً سلبياً للمراقبة والانتظار. إنه تفاعل نشط ومباشر.
ليست قواعد جديدة. إنه نوع جديد من التدقيق.
الحوكمة هي ساحة المعركة الحقيقية
تركيز هيئة السلوك المالي على الحوكمة ليس عرضياً. نماذج الذكاء الاصطناعي لا تفشل بشكل دراماتيكي — إنها تنحرف. تنتج نتائج منحرفة بشكل طفيف مع مرور الوقت، غالباً بطرق ليست واضحة حتى يبدأ المستهلكون الحقيقيون في التعرض للأذى. ربما لهذا السبب تضغط الهيئة على الشركات للتأكد مما إذا كانت إعدادات المراقبة الخاصة بها يمكنها فعلاً اكتشاف المشاكل مبكراً، وليس فقط بعد وصول شكوى إلى مكتب ما.
نظام SM&CR يضع بالفعل أفراداً محددين في موضع المسؤولية عن الفشل على مستوى الشركة. وواجب المستهلك، الذي دخل حيز التنفيذ الكامل في 2023، يطالب الشركات بتقديم نتائج جيدة للعملاء الأفراد — وليس فقط تجنب سوء السلوك الواضح. إضافة حوكمة الذكاء الاصطناعي على تلك الأطر ليس امتداداً. إنه نوع من النقطة. المديرون الكبار الذين يوافقون على نشر الذكاء الاصطناعي لا يمكنهم الاختباء وراء “النموذج قرر”. هياكل المساءلة موجودة بالفعل.
كما تريد هيئة السلوك المالي من الشركات التفكير بجدية في إمكانية التفسير — كيف يتم توصيل القرارات المدفوعة بالذكاء الاصطناعي للعملاء. إذا تم رفض قرض أو ارتفعت تكلفة التأمين بسبب خوارزمية، هل يمكن للشركة فعلاً شرح السبب بعبارات واضحة؟ لم يتضح بعد كم عدد الشركات التي يمكنها القيام بذلك بشكل جيد. لكن يبدو أن هيئة السلوك المالي مصممة على معرفة ذلك.
ما الذي يجب أن تتوقعه الشركات لاحقاً
في وقت لاحق من هذا العام، تخطط هيئة السلوك المالي لنشر أمثلة على الممارسات الجيدة والسيئة التي شاهدتها خلال تفاعلها مع الصناعة. هذا ليس ورقة استشارة أو بيان سياسة — إنه أشبه بتقرير عن ما لاحظته الهيئة. بالنسبة للشركات التي كانت متهاونة بشأن حوكمة الذكاء الاصطناعي، فهذا بمثابة طلقة تحذيرية قبل وصول أي شيء أكثر رسمية.
والتوقيت مهم. تبني الذكاء الاصطناعي في الخدمات المالية قد تحرك بسرعة. البنوك، شركات التأمين، ومديرو الثروات جميعهم يديرون نماذج تؤثر على قرارات الائتمان، كشف الاحتيال، اتصالات العملاء، وأكثر. لا يمكن لهيئة السلوك المالي أن تتظاهر بأنه لا يحدث. لكنها أيضاً لا يمكنها تنظيم تكنولوجيا تتحرك أسرع من معظم فرق السياسة. لذا فإن النهج الحالي — التفاعل، المراقبة، مشاركة النتائج — هو على الأرجح الخيار الأكثر واقعية المتاح الآن.
ومع ذلك، فإن الهيئة لا تجمع المعلومات فقط. إنها تبني صورة عن مكان وجود المخاطر الحقيقية. الشركات التي لا يمكنها تفسير نماذجها، لا يمكنها إظهار سجلات اختبار قوية، أو لا يمكنها إثبات معاملة عادلة للعملاء الضعفاء ستظهر في تلك الأمثلة المنشورة. ربما ليس بالاسم. لكن الصناعة ستتعرف على الأنماط.
الحوار المستمر لهيئة السلوك المالي يغطي أيضاً قلقاً محدداً: أدوات الذكاء الاصطناعي التي تتفاعل مباشرة مع المستهلكين. روبوتات الدردشة، أنظمة النصائح الآلية، المستشارون الروبوتيون — هذه ليست فرضيات بعد الآن. إنها حية، واسعة الانتشار، وتتخذ قرارات تؤثر على الشؤون المالية للأشخاص الحقيقيين. تريد الهيئة معرفة ما إذا كان العملاء يفهمون ما الذي يدفع تلك التفاعلات وما إذا كانت الشركات لديها إشراف حقيقي على ما تفعله الأنظمة بالفعل.
لا يوجد مؤشر على أن هيئة السلوك المالي على وشك التحول إلى موقف تنظيمي صارم. لكنها أيضاً لا تبقى صامتة. نشر أمثلة على الممارسات الجيدة والسيئة هو خطوة متعمدة — إنها تشكل السلوك دون فرضه، وتضع الشركات في علم أن الهيئة تراقب عن كثب.
الشركات التي تتقدم في هذا — حوكمة قوية، تفسير واضح، اختبارات موثقة، مراقبة مناسبة — ربما تكون في وضع جيد. الشركات التي لم تفكر بجدية في من يمتلك مسؤولية الذكاء الاصطناعي داخل منظماتها قد ترغب في البدء قبل أن تصل نتائج هيئة السلوك المالي علناً.
تخطط الهيئة لمواصلة تكييف نهجها مع تطور التكنولوجيا وردود الفعل الصناعية. لا يوجد نقطة نهاية ثابتة، لا كتاب قواعد جديد — فقط جهة تنظيمية تحاول مواكبة تكنولوجيا لم تنتظر إذن أحد لإعادة تشكيل الخدمات المالية.
يبقى نظام المساءلة SM&CR محورياً لكل ذلك.
الأسئلة الشائعة
هل تقدم هيئة السلوك المالي لوائح جديدة خاصة بالذكاء الاصطناعي؟
لا. تعتمد هيئة السلوك المالي على الأطر الحالية — واجب المستهلك ونظام المديرين الكبار والشهادات (SM&CR) — لتنظيم كيفية استخدام الشركات للذكاء الاصطناعي، دون وجود قواعد جديدة مخططة.
ما الذي ستنشره هيئة السلوك المالي حول ممارسات الذكاء الاصطناعي؟
تخطط هيئة السلوك المالي لمشاركة أمثلة على الممارسات الجيدة والسيئة للذكاء الاصطناعي المستخلصة من تفاعلها مع الصناعة، المتوقع لاحقاً هذا العام، لمساعدة الشركات على تبني الذكاء الاصطناعي بأمان.
