Data mining

Data mining (dolování dat) je proces objevování vzorů, vztahů a znalostí ve velkých množstvích dat. Vychází z průniku statistiky, strojového učení a databázových systémů – nejde ale o samotné algoritmy, ale o celý proces od porozumění problému po nasazení modelu do praxe.

CRISP-DM

CRISP-DM (Cross-Industry Standard Process for Data Mining) je nejpoužívanější metodologie pro data miningové projekty. Definuje šest fází, které nejsou striktně sekvenční – v praxi se mezi nimi libovolně přechází podle potřeby.

graph TD
    BP[1. Porozumění byznysu] --> DU[2. Porozumění datům]
    DU --> DP[3. Příprava dat]
    DP --> M[4. Modelování]
    M --> E[5. Evaluace]
    E --> D[6. Nasazení]
    D --> BP
    E --> BP
    M --> DP

Základní názvosloví

Typy data miningových úloh

Data miningové úlohy lze rozdělit podle toho, co je cílem analýzy a zda máme k dispozici označená data (labely).

Supervizované učení

Vstupem jsou data, kde známe správnou odpověď (cílovou proměnnou). Model se učí mapovat vstupní atributy na výstup a hledá funkci \(f\), pro kterou platí \(y \approx f(X)\). Cílem je dobře predikovat i na neviděných datech (generalizace).

• Trénování: Model iterativně upravuje své parametry, aby minimalizoval chybu na trénovacích datech.
• Příklady: Klasifikace (odhad třídy) a regrese (odhad číselné hodnoty).

Nesupervizované učení

Vstupem jsou data bez cílové proměnné. Model hledá skryté struktury, vzory a seskupení v datech bez jakékoliv předchozí znalosti o tom, co má hledat.

• Příklady: Shlukování, asociační pravidla, redukce dimenzionality (PCA, t-SNE).
• Výhoda: Nepotřebuje označená data – ta jsou často drahá a časově náročná na získání.
• Nevýhoda: Výsledky se obtížněji vyhodnocují – neexistuje „správná odpověď", se kterou by se daly porovnat.

Asociační algoritmy

Asociační algoritmy hledají asociační pravidla – implikace tvaru \(X \to Y\), kde \(X\) a \(Y\) jsou disjunktní množiny položek. Typickým příkladem je analýza nákupního košíku: „kdo si koupil chleba a máslo, často koupil i mléko".

Statistika implikací

Kvalitu asociačního pravidla \(X \to Y\) měříme několika statistikami založenými na četnostech v transakčních datech:

Apriori algoritmus

Apriori je klasický algoritmus pro dolování asociačních pravidel. Jeho klíčovou myšlenkou je antimonotónní vlastnost supportu: pokud je množina položek frekventovaná, pak všechny její podmnožiny jsou také frekventované. Ekvivalentně: pokud je množina nefrekventovaná, pak žádná její nadmnožina nemůže být frekventovaná.

Seskupovací (shlukovací) algoritmy

Shlukování (clustering) je nesupervizovaná technika, která rozděluje objekty do skupin (shluků) tak, aby si objekty uvnitř shluku byly co nejpodobnější a objekty z různých shluků co nejodlišnější.

Typy shlukovacích úloh

Standardizace atributů

Atributy často pocházejí z různých škál – např. věk (0–100), příjem (0–1 000 000). Bez standardizace by atribut s větším rozsahem dominoval měření podobnosti.

Hodnocení podobnosti objektů

Abychom mohli shlukovat, musíme definovat jak měřit podobnost mezi objekty. Volba metriky zásadně ovlivňuje výsledné shluky.

Klasifikační algoritmy

Klasifikace je supervizovaná úloha, kde modelem predikujeme kategoriální cílovou proměnnou na základě vstupních atributů. Model se učí z historických dat, kde známe správné třídy – hledá vzory, které odlišují jednotlivé kategorie, a ty pak aplikuje na nová, neoznačená data.

Rozhodovací stromy

Rozhodovací strom je jeden z nejintuitivnějších klasifikačních modelů – reprezentuje rozhodovací logiku jako strom pravidel if-then. Každý vnitřní uzel testuje hodnotu atributu, každá větev odpovídá výsledku testu a každý list reprezentuje třídu.

CHAID

CHAID (Chi-squared Automatic Interaction Detection) je algoritmus pro stavbu rozhodovacích stromů, který se od ostatních liší v tom, jak vybírá atribut a jak určuje počet větví.

• Výhody: Přirozeně zpracovává kategoriální data, statisticky podložené rozhodování, slučování kategorií zabraňuje fragmentaci.
• Nevýhody: Vyžaduje dostatek dat pro spolehlivý chi-kvadrát test, numerické atributy se musí diskretizovat (rozdělit do intervalů).

Algoritmická rozšíření rozhodovacích stromů

Samotné rozhodovací stromy trpí přeučením (overfitting) a vysokou variancí – malá změna dat může vést k úplně jinému stromu. Proto se používají souborové (ensemble) metody:

Evaluace klasifikačních modelů

Po natrénování modelu je potřeba změřit, jak dobře funguje. Pouhé procento správnosti (accuracy) nestačí – zvlášť u nevyvážených tříd (např. 1 % podvodných transakcí; model, který vždy řekne „není podvod", má accuracy 99 %, ale je k ničemu).

Matice záměn (Confusion Matrix)

Matice záměn porovnává skutečné třídy s predikovanými třídami. Pro binární klasifikaci:

Graf senzitivity a specifičnosti

Graf zobrazuje vztah mezi senzitivitou a specifičností pro různé hodnoty klasifikačního prahu. Při posouvání prahu se mění poměr mezi TP a FP – graf ukazuje, jak zvýšení senzitivity snižuje specifičnost a naopak. Optimální práh je v bodě, kde se obě křivky protínají, nebo podle byznys požadavků (např. senzitivita nesmí klesnout pod 95 %).

ROC křivka

ROC křivka (Receiver Operating Characteristic) zobrazuje poměr True Positive Rate (senzitivita) proti False Positive Rate (\(1 - \text{specifičnost}\)) pro různé klasifikační prahy.

• Plocha pod křivkou (AUC – Area Under Curve) shrnuje kvalitu modelu jednou hodnotou:
  • \(AUC = 1{,}0\) – dokonalý model (vše správně).
  • \(AUC = 0{,}5\) – náhodné hádání (model je k ničemu).
  • \(AUC < 0{,}5\) – model je horší než náhoda (predikuje opačně).
• Výhoda ROC: Je nezávislá na poměru tříd – vhodná pro nevyvážené datasety.