Modely strojového učenia nezlyhávajú rovnakým spôsobom ako tradičný softvér. Nevyhadzujú výnimky ani nepadajú. Naďalej generujú predikcie a tieto predikcie vyzerajú stále dôveryhodne, zatiaľ čo základná presnosť sa potichu znižuje. Prehľad rizík AI od spoločnosti McKinsey uvádza, že monitorovanie modelov v produkcii musí sledovať data drift, metriky modelu a metriky zaujatosti vo výsledkoch ako nepretržitú disciplínu, a nie ako jednorazový validačný krok.
Ide o problém riadenia a je to presne ten typ problému, ktorý odborníci na Lean Six Sigma riešia pomocou regulačných diagramov už celé desaťročia.
Posun dát (Data Drift) a posun konceptu (Concept Drift) sú dva nové zdroje špeciálnych príčin variability
V výrobnom procese pochádza variabilita zo strojov, materiálov, metód a ľudí. V nasadenom modeli pochádza variabilita z dát, ktoré ho napájajú.
Manažér kvality vykonávajúci analúzu koreňových príčin na devalvovanom modeli musí oddeliť tieto posuny na strane vstupov (data drift) od prípadov, keď sa zmenil samotný vzťah medzi vstupmi a správnym výstupom (concept drift). V oboch prípadoch ide o variabilitu procesu. Ani jedno sa neprejaví pri revízii kódu.
Mechanika: Stredná čiara, regulačné hranice a pravidlá Western Electric
Regulačný diagram aplikovaný na metriku modelu funguje rovnako ako na výrobnej linke.
Aplikované na dennú presnosť alebo chybovosť modelu, tieto pravidlá zachytávajú postupné zhoršovanie, ktoré by jednoduchý prah presnosti prehliadol.
Klinický prípad hodný štúdia
Recenzovaný rámec z roku 2024 vytvorený pre radiologické systémy AI ukazuje, ako to vyzerá v praxi. Výskumníci skombinovali SPC so strojovým učením, aby zachytili
Ide o problém priemernej dĺžky behu (average run length), čo je rovnaká metrika, aká sa používa na posúdenie toho, ako rýchlo tradičný regulačný diagram signalizuje posunutý proces.
Regulačné diagramy vylepšené strojovým učením začínajú nahrádzať jednoduché prahové hodnoty
SPC pre ML drift taktiež nezostáva statické.
, pričom výkonnosť sa posudzuje podľa priemernej dĺžky behu. To je dôležité pre odborníkov, ktorí sa rozhodujú medzi štandardným prístupom spôsobilosti procesu a niečím adaptívnejším, čo je úloha, ktorá sa nijako nedeliteľne nelíši od rozhodnutí o výbere nástrojov vyučovaných v ktoromkoľvek module výberu nástrojov Lean Six Sigma. Novší článok z roku 2025 o bootstrappovaných regulačných hraniciach pre concept drift to posúva ešte ďalej a buduje regulačné diagramy špecificky okolo predikčných skóre modelu namiesto štatistík neupravených znakov, čím sa predchádza problému falošných poplachov, ktoré vytvárajú obyčajné sigma hranice, keď dáta nie sú normálne rozdelené.
Začlenenie monitorovania modelov do plánu riadenia v rámci DMAIC
Nič z toho nenahrádza disciplínu DMAIC. Program monitorovania modelu si získa svoje miesto vo fáze Control rovnakým spôsobom ako akýkoľvek stabilizovaný proces: definujte metriku (presnosť, chybovosť, priemer alebo podiel znaku), nastavte limity zo stabilného základného obdobia a priraďte zodpovednosť za vyšetrovanie porušení. Inžiniersky tím spoločnosti Databricks, ktorý popisuje produkčné ML pipeline, to hovorí jasne:
, čo je riadiaci popis presne toho, čo by Black Belt nazval prechodom od merania k riadeniu.
Kto vlastní regulačný diagram po nasadení modelu
Niekto musí vlastniť vyšetrovanie prekročenia hraníc a táto otázka vlastníctva je miesta, kde väčšina programov monitorovania modelov ticho zlyháva. Black Belt už vie, ako napísať postup eskalácie pre signál mimo kontroly pri opracovávanom diele; rovnaká zručnosť sa prenáša na graf presnosti modelu za predpokladu, že tím dátových vedcov zdokumentuje štandardné správanie dostatočne jasne na to, aby si ho prečítal aj niekto mimo tímu vývoja modelu. Sponsorovanie zo strany vedenia tu má kľúčový význam práve preto, že upozornenia na odchýlku modelu sa dajú ľahko zľahčovať ako šum, až kým v produkcii nezlyhá úverové, podvodové alebo klinické rozhodnutie. Zapracovanie tohto vlastníctva do charty projektu, s určeným vlastník procesu a zdokumentovaným prahom odozvy, je štandardná prax DMAIC aplikovaná na novší typ procesu.
Zdroje
- Databricks (2019), Prechod strojového učenia do produkcie: Od nasadenia po detekciu posunu: https://www.databricks.com/blog/2019/09/18/productionizing-machine-learning-from-deployment-to-drift-detection.html
- Zamzmi, G. a kol. (2024/2025), Detekcia neočakávaných dát a monitorovanie radiologických dát pomocou štatistického riadenia procesov, PMC: https://www.ncbi.nlm.nih.gov/pmc/articles/PMC11950585/
- arXiv (2024), Detekcia neočakávaných dát a monitorovanie posunu dát pomocou štatistického riadenia procesov: https://arxiv.org/abs/2402.08088
- arXiv (2025), Prehľad vplyvu umelej inteligencie na štatistické monitorovanie procesov a budúce smerovanie: https://arxiv.org/pdf/2503.01858
- arXiv (2025), Bootstrappované regulačné hranice pre regulačné diagramy posunu konceptu založené na skóre: https://arxiv.org/pdf/2507.16749
- JANUS Associates, NIST.AI.100-1 Prehľad rámca riadenia rizík AI: https://janusassociates.com/resources/nist-ai-risk-management-framework/
