لا تفشل نماذج تعلم الآلة بالطريقة التي تفشل بها البرامج التقليدية. فهي لا تطلق استثناءات أو تنهار، بل تستمر في إنتاج التنبؤات، وتظل هذه التنبؤات تبدو معقولة، بينما تتآكل الدقة الأساسية بهدوء. وتوضح مراجعة أجرتها شركة McKinsey لممارسات مخاطر الذكاء الاصطناعي أن مراقبة النماذج في بيئة الإنتاج تتطلب تتبع انحراف البيانات، ومقاييس النموذج، ومقاييس التحيز في المخرجات كمنهجية مستمرة بدلاً من كونها خطوة تحقق تتم لمرة واحدة.
تعد هذه مشكلة تحكم، وهي بالضبط نوع المشكلات التي دأب ممارسو Lean Six Sigma على حلها باستخدام مخططات الضبط عبر عقود من الزمن.
انحراف البيانات وانحراف المفاهيم هما مصدران جديدان للاختلاف الناتج عن أسباب خاصة
في العمليات التصنيعية، يأتي الاختلاف من الآلات والمواد والطرق والأفراد. أما في النموذج المُنتشر، فيأتي الاختلاف من البيانات التي تغذيه.
يحتاج مدير الجودة الذي يجري تحليل السبب الجذر على نموذج متراجع إلى الفصل بين هذه التحولات في جانب المدخلات (انحراف البيانات) والحالات التي تتغير فيها العلاقة بين المدخلات والمخرجات الصحيحة نفسها (انحراف المفاهيم). كلاهما يمثل اختلافاً في العملية، ولا يظهر أي منهما في مراجعة الكود البرمجي.
آلية العمل: خط الوسط، حدود التحكم، وقواعد Western Electric
A مخطط التحكم المُطبق على مقياس النموذج يعمل بالطريقة نفسها التي يعمل بها على خط الإنتاج.
عند تطبيق هذه القواعد على الدقة اليومية للنموذج أو معدل الخطأ، فإنها تلتقط التدهور التدريجي الذي قد يتغاضى عنه حد الدقة البسيط.
حالة طبية تستحق الدراسة
يظهر إطار عمل مُحكّم لعام 2024 صُمم لأنظمة الذكاء الاصطناعي في مجال الأشعة كيف يبدو ذلك في الممارسة العملية. حيث جمع الباحثون بين SPC وتعلم الآلة لالتقاط
تعد هذه مشكلة متعلقة بمتوسط طول الشوط، وهو المقياس نفسه المستخدم لتقييم مدى سرعة مخطط التحكم التقليدي في التنبيه إلى عملية انحرفت عن مسارها.
بدأت المخططات المعززة بتعلم الآلة في إحلال محل الحدود البسيطة
كما أن SPC لمراقبة انحراف تعلم الآلة لا يقف ثابتاً أيضاً.
، مع تقييم الأداء من خلال متوسط طول الشوط. ويعد هذا أمراً مهماً للممارسين الذين يختارون بين نهج قدرة العملية معياري وآخر أكثر تكيفاً، وتمرين لا يختلف عن قرارات اختيار الأدوات المتبعة في أي اختيار أدوات Lean Six Sigma وحدة تدريبية. وتذهب ورقة بحثية أحدث لعام 2025 حول حدود التحكم المعاد تجميعها (bootstrapped) لانحراف المفاهيم إلى أبعد من ذلك، حيث تبني مخططات تحكم مخصصة حول درجات تنبؤ النموذج بدلاً من إحصائيات الميزات الخام، مما يتجنب مشكلة الإنذارات الكاذبة التي تخلقها حدود سيجما العادية عندما لا تكون البيانات موزعة طبيعياً.
دمج مراقبة النماذج في خطة تحكم DMAIC
لا شيء من هذا يحل محل الانضباط في DMAIC. ويكتسب برنامج مراقبة النماذج مكانه في مرحلة التحكم (Control) بالطريقة نفسها التي تكتسب بها أي عملية مستقرة مكانها: حدد المقياس (الدقة، معدل الخطأ، متوسط ميزة أو نسبتها)، وضع الحدود من فترة خط الأساس المستقرة، وعيّن المسؤولية للتحقيق في الانتهاكات. ويعبر فريق الهندسة في Databricks، عند وصف خطوط إنتاج تعلم الآلة، عن ذلك بوضوح:
، وهو وصف حوكمة يطابق تماماً ما يسميه الحزام الأسود (Black Belt) الانتقال من القياس إلى التحكم.
من يمتلك المخطط بمجرد إطلاق النموذج
يجب أن يمتلك شخص ما مسؤولية التحقيق في الانتهاكات، وسؤال الملكية هذا هو المكان الذي تفشل فيه معظم برامج مراقبة النماذج بهدوء. إن الـ Black Belt يعرف بالفعل كيفية كتابة مسار تصعيد لإشارة خروج عن السيطرة على جزء مصنع؛ وتنتقل المهارة نفسها إلى مخطط دقة النموذج، بشرط أن يوثق فريق علم البيانات سلوك خط الأساس بوضوح كافٍ ليستوعبه شخص من خارج فريق بناء النموذج. رعاية القيادة تعد مهمة هنا تحديداً لأن تنبيهات انحراف النموذج يسهل تجاهلها باعتبارها ضوضاء حتى يقع خطأ في قرار ائتماني أو احتيالي أو طبي في بيئة الإنتاج. وإن بناء تلك الملكية في ميثاق المشروع، مع تحديد Process Owner ومستوى استجابة موثق، هو ممارسة DMAIC قياسية مُطبقة على نوع أحدث من العمليات.
المصادر
- Databricks (2019)، تحويل تعلم الآلة إلى بيئة الإنتاج: من النشر إلى كشف الانحراف: https://www.databricks.com/blog/2019/09/18/productionizing-machine-learning-from-deployment-to-drift-detection.html
- Zamzmi, G. et al. (2024/2025)، كشف التوزيع الخارجي ومراقبة بيانات الأشعة باستخدام Statistical Process Control، PMC: https://www.ncbi.nlm.nih.gov/pmc/articles/PMC11950585/
- arXiv (2024)، كشف التوزيع الخارجي ومراقبة انحراف البيانات باستخدام Statistical Process Control: https://arxiv.org/abs/2402.08088
- arXiv (2025)، مراجعة لتأثير الذكاء الاصطناعي على مراقبة العمليات الإحصائية والاتجاهات المستقبلية: https://arxiv.org/pdf/2503.01858
- arXiv (2025)، حدود التحكم المعاد تجميعها لمخططات التحكم في انحراف المفاهيم القائمة على الدرجات: https://arxiv.org/pdf/2507.16749
- JANUS Associates, NIST.AI.100-1 نظرة عامة على إطار إدارة مخاطر الذكاء الاصطناعي: https://janusassociates.com/resources/nist-ai-risk-management-framework/
