لا تفشل نماذج التعلم الآلي بالطريقة التي تفشل بها البرامج التقليدية. فهي لا تطلق استثناءات ولا تتوقف عن العمل فجأة، بل تستمر في تقديم التنبؤات، وتبدو هذه التنبؤات معقولة باستمرار، بينما تتآكل الدقة الأساسية في خفاء. وتذكر مراجعة أعدتها ماكينزي لحوكمة مخاطر الذكاء الاصطناعي أن مراقبة النماذج في بيئة الإنتاج تتطلب تتبع انحراف البيانات ومقاييس النموذج ومقاييس التحيز في المخرجات كممارسة مستمرة وليس كخطوة تحقق تُجرى لمرة واحدة.
وتلك مشكلة ضبط وضبط الجودة، وهي بالضبط نوع المشكلات التي دأب ممارسو Lean Six Sigma على حلها باستخدام لوحات الضبط لعقود من الزمن.
انحراف البيانات وانحراف المفاهيم هما مصدران جديدان للاختلاف الناتج عن أسباب خاصة
في العمليات التصنيعية، ينبع الحيود من الآلات والمواد والأساليب والأفراد. أما في النموذج المُنفَّذ، فيأتي الحيود من البيانات التي تغذيه.
ويحتاج مدير الجودة الذي يكتفي بإجراء تحليل السبب الجذر لنموذج متراجع إلى التمييز بين هذه التحولات في جانب المدخلات (انحراف البيانات) وبين الحالات التي تتغير فيها العلاقة بين المدخلات والمخرجات الصحيحة ذاتها (انحراف المفهوم). وكلاهما يمثل حيودًا في العملية، ولا يظهر أي منهما عند مراجعة الشفرة البرمجية.
آلية العمل: خط الوسط، حدود التحكم، وقواعد Western Electric
تتيح لوحة الضبط المطبقة على مقياس النموذج العمل بنفس الطريقة التي تعمل بها على خط الإنتاج.
وعند تطبيقها على المعدل اليومي لدقة النموذج أو نسبة الخطأ فيه، تكشف هذه القواعد التدهور التدريجي الذي قد يتغاضى عنه أي حد أدنى بسيط للدقة.
حالة طبية تستحق الدراسة
يُظهر إطار عمل مُحكَّم لعام 2024 لإنشاء أنظمة الذكاء الاصطناعي في مجال الأشعة كيف يبدو ذلك عمليًا. فقد دمج الباحثون ضبط العمليات الإحصائي (SPC) مع التعلم الآلي لرصد
وتلك مشكلة ترتبط بمتوسط طول تشغيل اللوحة، وهو المقياس نفسه المستخدم لتقييم مدى سرعة لوحة الضبط التقليدية في التنبيه إلى عملية حدث فيها تحول.
بدأت المخططات المعززة بتعلم الآلة في إحلال محل الحدود البسيطة
ولا يزال ضبط العمليات الإحصائي (SPC) الخاص بانحراف التعلم الآلي يشهد تطورًا مستمرًا.
، عبر تقييم الأداء من خلال متوسط طول التشغيل. ويُعد هذا الأمر مهمًا للممارسين الذين يختارون بين نهج كفاءة العملية القياسي ونهج أكثر تكيفًا، وهي مفاضلة لا تختلف عن قرارات اختيار الأدوات الشائعة في أي وحدة من وحدات اختيار أدوات Lean Six Sigma. وتذهب ورقة بحثية حديثة لعام 2025 بشأن حدود الضبط القائمة على طريقة المعاينة الذاتية (bootstrapping) لانحراف المفهوم إلى أبعد من ذلك، حيث تبني لوحات ضبط مخصصة لدرجات تنبؤ النموذج بدلاً من إحصاءات السمات الخام، مما يتجنب مشكلة الإنذارات الكاذبة التي تسببها حدود Sigma العادية عندما لا تتوزع البيانات توزيعًا طبيعيًا.
دمج مراقبة النماذج في خطة تحكم DMAIC
لا شيء من هذا يغني عن منهجية وتخصص DMAIC. فبرنامج مراقبة النماذج يثبت جدواه في مرحلة الضبط (Control) بالطريقة نفسها التي يثبت بها أي مسار عمل مستقر جدارته: تحديد المقياس (الدقة، معدل الخطأ، أو متوسط سمة معينة أو نسبتها)، ووضع الحدود بناءً على فترة أساس مستقرة، وتحديد المسؤولية والمُلكية للتحقيق في أي تجاوزات. ويصيغ فريق الهندسة في Databricks ذلك بوضوح عند وصف خطوط أنابيب التعلم الآلي في بيئة الإنتاج:
، وهو وصف حوكمي بدقيق ما يطلق عليه الـ Black Belt الانتقال من مرحلة القياس إلى مرحلة الضبط.
من يمتلك المخطط بمجرد إطلاق النموذج
يجب على شخص ما تحمل مسؤولية التحقيق في الانحرافات، وسؤال الملكية هذا هو المكان الذي تفشل فيه معظم برامج مراقبة النماذج بهدوء. فالـ Black Belt يعرف بالفعل كيفية كتابة مسار تصعيد لإشارة خارجة عن الضبط لقطعة مصنعة؛ وهذه المهارة ذاتها تنتقل إلى مخطط دقة النموذج، شريطة أن يوثق فريق علم البيانات سلوك خط الأساس بوضوح كافٍ ليستوعبه شخص من خارج فريق بناء النموذج. وتكتسب Leadership sponsorship أهمية خاصة هنا لأن تنبيهات انحراف النموذج من السهل تجاهلها باعتبارها ضوضاء إلى أن يحدث خلل في قرار ائتماني أو احتيالي أو سريري في بيئة الإنتاج. وإن بناء هذه الملكية في ميثاق المشروع، مع وجود مالك عملية محدد وحد استجابة موثق، هو ممارسة قياسية لـ DMAIC تطبق على نوع أحدث من العمليات.
المصادر
- Databricks (2019)، تحويل التعلم الآلي إلى الإنتاج: من النشر إلى كشف الانحراف: https://www.databricks.com/blog/2019/09/18/productionizing-machine-learning-from-deployment-to-drift-detection.html
- Zamzmi, G. وآخرون (2024/2025)، الكشف عن التوزيع الخارجي ومراقبة البيانات الشعاعية باستخدام الضبط الإحصائي للعمليات، PMC: https://www.ncbi.nlm.nih.gov/pmc/articles/PMC11950585/
- arXiv (2024)، الكشف عن التوزيع الخارجي ومراقبة انحراف البيانات باستخدام الضبط الإحصائي للعمليات: https://arxiv.org/abs/2402.08088
- arXiv (2025)، مراجعة لتأثير الذكاء الاصطناعي على المراقبة الإحصائية للعمليات والاتجاهات المستقبلية: https://arxiv.org/pdf/2503.01858
- arXiv (2025)، حدود الضبط المعاد إنشاؤها لمخططات ضبط انحراف المفهوم القائمة على الدرجات: https://arxiv.org/pdf/2507.16749
- JANUS Associates، نظرة عامة على إطار إدارة مخاطر الذكاء الاصطناعي NIST.AI.100-1: https://janusassociates.com/resources/nist-ai-risk-management-framework/
