Modely strojového učení neselhávají stejným způsobem jako tradiční softwarové aplikace. Nevyvolávají výjimky ani nepadají. Dále generují předpovědi a tyto předpovědi nadále vypadají důvěryhodně, zatímco jejich vnitřní přesnost tichým způsobem degraduje. Analýza rizik v oblasti AI od společnosti McKinsey uvádí, že monitorování modelů v produkčním prostředí vyžaduje sledování datového driftu, metrik modelu a metrik zaujatosti ve výsledcích jako nepřetržitou disciplínu, nikoli jako jednorázový validační krok.
Jedná se o problém řízení a je to přesně ten typ problému, který odborníci na Lean Six Sigma řeší pomocí regulačních diagramů již celá desetiletí.
Posun dat (Data Drift) a posun konceptu (Concept Drift) jsou dva nové zdroje vymezitelné příčiny variability
V výrobním procesu pochází variabilita ze strojů, materiálů, metod a lidí. U nasazeného modelu pochází variabilita z dat, která do něj vstupují.
Manažer kvality, který provádí analýzu kořenových příčin u degradovaného modelu, musí odlišit tyto posuny na straně vstupů (datový drift) od případů, kdy se změnil samotný vztah mezi vstupy a správným výstupem (konceptuální drift). V obou případech jde o variabilitu procesu. Ani jedno se však neodhalí při revizi kódu.
Mechanika: Centrální čára, regulační limity a pravidla Western Electric
Regulační diagram aplikovaný na metriku modelu funguje stejně jako na výrobní lince.
Při aplikaci na denní přesnost nebo chybovost modelu tato pravidla zachytí postupné zhoršování, které by jednoduchý práh přesnosti přehlédl.
Klinický případ hodný prostudování
Rámec z roku 2024 recenzovaný odborníky, vytvořený pro radiologické systémy AI, ukazuje, jak to vypadá v praxi. Výzkumníci zkombinovali SPC se strojovým učením, aby zachytili
To představuje problém průměrné délky řetězce (average run length), což je stejná metrika, která se používá k posouzení toho, jak rychle tradiční regulační diagram odhalí posun v procesu.
Diagramy vylepšené strojovým učením začínají nahrazovat jednoduché prahové hodnoty
SPC pro drift u strojového učení nezůstává statické.
, přičemž posuzuje výkonnost podle průměrné délky řetězce. To má význam pro odborníky, kteří se rozhodují mezi standardním přístupem k způsobilosti procesu a něčím adaptivnějším — což je úloha, která se nijak neliší od rozhodování o výběru nástrojů vyučovaného v jakémkoli modulu Lean Six Sigma tool selection. Novější studie z roku 2025 o bootstrappovaných regulačních limitech pro konceptuální drift jde ještě dále a staví regulační diagramy specificky kolem skóre předpovědí modelu namísto surovinových statistik příznaků, čímž se předchází falešným poplachům, které běžné sigmové prahy vytvářejí, pokud data nejsou normálně rozdělená.
Zařazení monitorování modelu do plánu řízení DMAIC
Nic z toho nenahrazuje disciplínu cyklu DMAIC. Program monitorování modelů si získá své místo ve fázi Řízení (Control) stejně jako jakýkoli stabilizovaný proces: definujte metriku (přesnost, chybovost, průměr nebo podíl příznaku), nastavte limity ze stabilního základního období a přiraďte odpovědnost za vyšetřování odchylek. Inženýrský tým společnosti Databricks, popisující produkční datovody strojového učení, to říká jasně:
, což je popis řízení přesně toho, co by Black Belt nazval přechodem od měření k řízení.
Kdo vlastní diagram, jakmile je model nasazen
Někdo musí převzít odpovědnost za vyšetřování odchylek a právě tato otázka vlastnictví je místem, kde většina programů monitorování modelů v tichosti selhává. Black Belt již ví, jak napsat eskalační postup pro signál mimo kontrolu na obráběném dílu; stejná dovednost se přenáší na diagram přesnosti modelu, pokud tým datových vědců dokumentuje základní chování dostatečně jasně na to, aby si ho mohl přečíst i někdo mimo tým pro vývoj modelů. Sponzorství ze strany vedení je zde důležité zejména proto, že upozornění na drift modelu lze snadno odmítnout jako šum, dokud se v produkčním prostředí nepokazí úvěrové, podvodné nebo klinické rozhodnutí. Zabudování této odpovědnosti do charty projektu s jmenovitě určeným vlastníkem procesu a zdokumentovaným prahem reakce je standardní praxí DMAIC aplikovanou na novější typ procesu.
Zdroje
- Databricks (2019), Productionizing Machine Learning: From Deployment to Drift Detection: https://www.databricks.com/blog/2019/09/18/productionizing-machine-learning-from-deployment-to-drift-detection.html
- Zamzmi, G. et al. (2024/2025), Detekce mimo rozdělení a monitorování radiologických dat pomocí statistické regulace procesu, PMC: https://www.ncbi.nlm.nih.gov/pmc/articles/PMC11950585/
- arXiv (2024), Out-of-Distribution Detection and Data Drift Monitoring using Statistical Process Control: https://arxiv.org/abs/2402.08088
- arXiv (2025), Přehled dopadů umělé inteligence na statistické řízení procesů a budoucí směřování: https://arxiv.org/pdf/2503.01858
- arXiv (2025), Bootstrappované regulační meze pro regulační diagramy koncepčního driftu založené na skóre: https://arxiv.org/pdf/2507.16749
- JANUS Associates, Přehled rámce pro řízení rizik AI NIST.AI.100-1: https://janusassociates.com/resources/nist-ai-risk-management-framework/
