Főkomponens-analízis
A főkomponens-analízis vagy főkomponens-elemzés (angolul Principal Component Analysis, rövidítve PCA) egy többváltozós statisztikai eljárás, mely az adatredukciós módszerek közé sorolható, s a faktoranalízis egy speciális esetének tekinthető. Lényege, hogy egy nagy adathalmaz ─ melynek változói kölcsönös kapcsolatban állnak egymással ─ dimenzióit lecsökkentse, miközben a jelen lévő varianciát a lehető legjobban megtartsa. Ezt úgy hajtja végre, hogy egy ortogonális (merőleges) transzformáció segítségével az adathalmaz lehetségesen korreláltatható változóit lineárisan korrelálatlan változók értékkészletévé alakítja át, melyeket főkomponenseknek nevezünk. A főkomponensek száma kisebb vagy egyenlő az eredeti változók számával. A transzformáció oly módon meghatározott, hogy az első főkomponens rendelkezik a lehető legnagyobb varianciával (vagyis az adatok akkora mértékű szóródását magyarázza, amekkora lehetséges), s minden utána következő komponens a fennmaradó legnagyobb varianciával fog rendelkezni, ha megfelel annak a feltételnek, hogy merőleges (azaz korrelálatlan) az azt megelőző komponensekre. A főkomponensek merőlegesek, mivel a kovarianciamátrix – ami szimmetrikus ─ sajátvektorai. A főkomponens-analízis érzékeny az eredeti változók relatív skálázására.

A főkomponens-analízist Karl Pearson alkotta meg 1901-ben, a mechanikában használt tehetetlenségi nyomaték elmélet analógiájára; később, tőle függetlenül, Harold Hotelling is kidolgozta 1933-ban, elterjedését azonban a számítógépek megjelenésének köszönheti. Az eljárást elsősorban a feltáró adatelemzésben használják és a prediktív modellek előállításában. A főkomponens-analízis elvégezhető egy kovariáns (vagy korrelációs) adatmátrix sajátértékeinek dekompozíciójával vagy egy adatmátrix szinguláris értékeinek dekompozíciójával, azután, hogy minden jellemzőre elvégeztük az adatmátrix mintaátlag igazítását (és normalizálását vagy Z-értékek használatát). A főkomponens-analízis eredményét általában komponens pontszámban, vagy faktorszkórban (adott adatpontnak megfelelő transzformált változó érték) és töltésben (az a súly, amellyel minden eredeti, standardizált változót meg kell szorozni, ahhoz, hogy megkapjuk a komponens pontszámokat) kifejezve értelmezzük.

A főkomponens-analízis a legegyszerűbb a sajátvektor-alapú többváltozós elemzések közül. Működése felfogható úgy, mint az adat belső struktúrájának feltárása oly módon, hogy az a legjobban magyarázza az adathalmaz szóródását. Ha egy többváltozós adathalmaz egy nagy-dimenziós adattérben koordináták halmazaként ábrázolt, a főkomponens-analízis egy alacsonyabb dimenziójú képet szolgáltathat a felhasználó számára, a leginformatívabb nézőpontból nézve az objektum egy levetítése vagy „árnyéka” által. Ez az első néhány főkomponens felhasználásával történik úgy, hogy a transzformált adat dimenzióit lecsökkentjük.

A főkomponens-analízis szorosan összefügg a faktoranalízissel és a kanonikus korrelációelemzéssel. A faktoranalízis több doménium specifikus feltételt épít be a mögöttes struktúráról és egy kissé eltérő mátrix sajátvektoraival dolgozik. A kanonikus korrelációelemzés egy olyan koordináta rendszert határoz meg, mely két adathalmaz közti keresztkovarianciát írja le optimálisan, míg a főkomponens-analízis egy olyan, új ortogonális koordináta rendszert határoz meg, mely egyetlen adathalmaz varianciáját írja le optimálisan.

Intuíció
A főkomponens-analízis felfogható úgy is, mint ha egy n dimenziós ellipszoidot próbálnánk az adatokra illeszteni, ahol az ellipszoid mindegyik tengelye egy főkomponens lenne. Ha az ellipszoid valamelyik tengelye kicsi, akkor a tengely menti variancia is kicsi lesz, és ha elhagyjuk ezt a tengelyt és a hozzá tartozó főkomponenst az adathalmaz reprezentációjából, akkor csak egy ezzel arányosan kis adatmennyiséget veszítünk el.

Ahhoz, hogy megtaláljuk az ellipszoid tengelyeit, elsőként ki kell vonnunk minden változó átlagát az adathalmazból, hogy az adatokat az origó köré igazítsuk. Ezután kiszámítjuk az adatok kovarianciamátrixát és a sajátértékeket, illetve a kovarianciamátrixhoz tartozó sajátvektorokat. Utána merőlegesítjük (ortogonalizáljuk) és normalizáljuk a sajátvektor halmazt (a klasszikus Karteziánus koordináta rendszerek egy típusa: ortonormált=ortogonális és normált), hogy egységvektorokat kapjunk. Ezt követően a kapott, kölcsönösen merőleges egységvektorokra úgy tekinthetünk, mint az ellipszoid adatra illesztett tengelyeire. A varianciák azon hányada, melyet az egyes sajátvektorok képviselnek kiszámítható úgy, hogy a sajátvektorhoz tartozó sajátértéket elosztjuk az összes sajátérték összegével.

Fontos megjegyezni, hogy ez az eljárás érzékeny az adatok skálázására, s nem létezik konszenzus arra vonatkozólag, hogy hogyan kell az adatokat skálázni az optimális eredmények eléréséhez.

Matematikában
A főkomponens-analízis matematikailag úgy határozható meg, mint egy ortogonális lineáris transzformáció, mely az adatokat egy új koordináta rendszerbe transzformálja, ahol az adat bizonyos projekciója szerinti legnagyobb variancia az első koordinátán helyezkedik el (az első főkomponens), a második legnagyobb variancia a második koordinátán, és így tovább.

Legyen az adatmátrix (X) oszlop szerinti empirikus átlaga nulla (minden oszlop mintaátlaga eltolódott nullára), ahol minden n sor egy kísérlet eltérőképpen való megismétlése és minden p oszlop egy bizonyos adat (pl. egy résztvevő reakcióideje).

Matematikailag a transzformáció egy p dimenziós, súlyokat vagy töltéseket tartalmazó vektorok halmaza által meghatározott , melyek minden sor vektort  X-ből levetítenek egy új főkomponens szkór vektorra , a következő összefüggés által kifejezve , oly módon, hogy t egyes változói egymás után átöröklik a lehetséges legnagyobb varianciát x-ből úgy, hogy minden egyes w súlyvektor egységvektor legyen.

A főkomponens-analízis folyamatában használt alapvető fogalmak és eljárások

Szórás

A szóródás mérőszáma, mely „megmutatja, hogy  ismérvértékek átlagosan mennyivel térnek el a számtani átlagtól” (Hunyadi-Vita, 2008, 115. o.). Kiszámítására a következő képlet használható:

, ahol s a szórás,  az adatpont, a minta átlaga, n az elemszám (a bevett minta nagysága).

Variancia

A variancia szintén egy szóródási mutató, a szórás négyzete. Képlete:

.

Kovariancia

A kovariancia két, egymástól különböző adathalmaz  együttmozgását adja meg, tehát  kovariancia a két változó közti kapcsolatot és annak irányát adja meg (Hunyadi-Vita, 2008, 175. o.). Vagyis, ha  pozitív, akkor a két változó közt pozitív irányú a kapcsolat, együtt nőnek; ha  negatív, akkor negatív irányú kapcsolat van, azaz, ha egyik változó nő, akkor a másik csökken. Ha , ez a két változó közti kapcsolat hiányát jelzi. Képlete:

.

Kovarianciamátrix
A kovarianciamátrix felfogható úgy, mint az összes kiszámított kovariancia ábrázolása, vagyis egy olyan mátrix, melyben az  pozíción egy X vektor i-edik és j-edik eleme közti kovariancia található. A kovarianciamátrix a következő képlet alapján írható fel:

, ahol  egy mátrix, melynek n sora és n oszlopa van és  az x-edik dimenzió. Ennek értelmében, ha egy adathalmaz három dimenzióval rendelkezik (legyenek x, y, z), akkor a kovariáns mátrix 3x3-as mintázatot fog követni, és a következőképpen írható fel:

.

Sajátvektor és sajátérték

A sajátvektorok a mátrixok szorzásának egy speciális esete. λ szám akkor lesz az A mátrix sajátértéke, ha létezik olyan nemnulla X vektor, amelyre igaz, hogy Ax=λx. Ez az X vektor az A mátrix λ sajátértékhez tartozó sajátvektora.
Például legyen a transzformációs mátrix  és a sajátvektor . Ha A transzformációs mátrixszal balról megszorozzuk a v sajátvektort, a következő vektort kapjuk: , ahol a sajátérték λ =  3.

A sajátvektorok a következő tulajdonságokkal rendelkeznek:
csak négyzetes mátrixoknak lehetnek sajátvektorai, illetve nem minden négyzetes mátrixnak van sajátvektora; egy adott n x n-es mátrix, mely rendelkezik sajátvektorral, annak n darab sajátvektora van;
ha egy sajátvektort növelünk, mielőtt megszoroznánk, ugyanezen vektor többszörösét kapjuk.

A főkomponens-analízis menete

Első lépésben bevezetjük az adatokat és létrehozzuk az adathalmazt. Legyenek x és y.
Második lépésben kivonjuk az átlagokat minden adat dimenzióból, vagyis minden x értékből kivonjuk a hozzá tartozó  átlagot, illetve minden y értékből a hozzá tartozó  átlagot.
Harmadik lépésben kiszámoljuk a kovariáns mátrixot a fenti képlet alapján. Ez esetben a kovariáns mátrix 2 x 2-es lesz.
Negyedik lépésben kiszámoljuk a kovarianciamátrixhoz tartozó sajátvektorokat és sajátértékeket. A főkomponens-analízis esetében fontos, hogy a sajátvektorok egységvektorok legyenek (hosszuk 1). A sajátvektoroknak egymásra merőlegeseknek kell lenniük.
Ötödik lépésben kiválasztjuk a komponenseket és kialakítjuk a vonás vektort. A sajátvektorokat sajátérték szerint sorrendbe állítjuk, legnagyobbtól a legkisebbig, megkapva így a komponenseket szignifikanciájuk szerint. Ha a sajátértékek kellően kicsit, akkor az adatmennyiség amit elveszítünk ezzel arányos mértékben szintén kicsi lesz. Ezt követően létrehozzuk a vonásvektort a megtartott sajátvektorokból.
Utolsó lépésben származtatjuk az új adathalmazt. Ez úgy történik, hogy az előző lépésben kapott vonás vektort, ami oszlopvektor, transzponáljuk, vagyis átalakítjuk sorvektorrá úgy, hogy a legszignifikánsabb sajátvektor lesz az első érték. Az így kapott vektort megszorozzuk jobbról az eredeti adathalmaz transzponáltjával.

Jegyzetek

Irodalom
 Hunyadi László – Vita László: Statisztika I, Budapest: Aula Kiadó, 2008. 
 Jolliffe, I.T. (2002). Principal Component Analysis, second edition (Springer).

Fordítás

Alkalmazott matematika
Statisztika
Pszichológia
A főkomponens-analízis vagy főkomponens-elemzés ( angolul Principal Component Analysis , rövidítve PCA ) egy többváltozós statisztikai eljárás , mely az adatredukciós módszerek közé sorolható , s a faktoranalízis egy speciális esetének tekinthető . Lényege , hogy egy nagy adathalmaz ─ melynek változói kölcsönös kapcsolatban állnak egymással ─ dimenzióit lecsökkentse , miközben a jelen lévő varianciát a lehető legjobban megtartsa . Ezt úgy hajtja végre , hogy egy ortogonális ( merőleges ) transzformáció segítségével az adathalmaz lehetségesen korreláltatható változóit lineárisan korrelálatlan változók értékkészletévé alakítja át , melyeket főkomponenseknek nevezünk . A főkomponensek száma kisebb vagy egyenlő az eredeti változók számával . A transzformáció oly módon meghatározott , hogy az első főkomponens rendelkezik a lehető legnagyobb varianciával ( vagyis az adatok akkora mértékű szóródását magyarázza , amekkora lehetséges ) , s minden utána következő komponens a fennmaradó legnagyobb varianciával fog rendelkezni , ha megfelel annak a feltételnek , hogy merőleges ( azaz korrelálatlan ) az azt megelőző komponensekre . A főkomponensek merőlegesek , mivel a kovarianciamátrix – ami szimmetrikus ─ sajátvektorai . A főkomponens-analízis érzékeny az eredeti változók relatív skálázására . A főkomponens-analízist Karl Pearson alkotta megben , a mechanikában használt tehetetlenségi nyomaték elmélet analógiájára ; később , tőle függetlenül , Harold Hotelling is kidolgoztaban , elterjedését azonban a számítógépek megjelenésének köszönheti . Az eljárást elsősorban a feltáró adatelemzésben használják és a prediktív modellek előállításában . A főkomponens-analízis elvégezhető egy kovariáns ( vagy korrelációs ) adatmátrix sajátértékeinek dekompozíciójával vagy egy adatmátrix szinguláris értékeinek dekompozíciójával , azután , hogy minden jellemzőre elvégeztük az adatmátrix mintaátlag igazítását ( és normalizálását vagy Z-értékek használatát ) . A főkomponens-analízis eredményét általában komponens pontszámban , vagy faktorszkórban ( adott adatpontnak megfelelő transzformált változó érték ) és töltésben ( az a súly , amellyel minden eredeti , standardizált változót meg kell szorozni , ahhoz , hogy megkapjuk a komponens pontszámokat ) kifejezve értelmezzük . A főkomponens-analízis a legegyszerűbb a sajátvektor-alapú többváltozós elemzések közül . Működése felfogható úgy , mint az adat belső struktúrájának feltárása oly módon , hogy az a legjobban magyarázza az adathalmaz szóródását . Ha egy többváltozós adathalmaz egy nagy-dimenziós adattérben koordináták halmazaként ábrázolt , a főkomponens-analízis egy alacsonyabb dimenziójú képet szolgáltathat a felhasználó számára , a leginformatívabb nézőpontból nézve az objektum egy levetítése vagy „ árnyéka” által . Ez az első néhány főkomponens felhasználásával történik úgy , hogy a transzformált adat dimenzióit lecsökkentjük . A főkomponens-analízis szorosan összefügg a faktoranalízissel és a kanonikus korrelációelemzéssel . A faktoranalízis több doménium specifikus feltételt épít be a mögöttes struktúráról és egy kissé eltérő mátrix sajátvektoraival dolgozik . A kanonikus korrelációelemzés egy olyan koordináta rendszert határoz meg , mely két adathalmaz közti keresztkovarianciát írja le optimálisan , míg a főkomponens-analízis egy olyan , új ortogonális koordináta rendszert határoz meg , mely egyetlen adathalmaz varianciáját írja le optimálisan . Intuíció A főkomponens-analízis felfogható úgy is , mint ha egy n dimenziós ellipszoidot próbálnánk az adatokra illeszteni , ahol az ellipszoid mindegyik tengelye egy főkomponens lenne . Ha az ellipszoid valamelyik tengelye kicsi , akkor a tengely menti variancia is kicsi lesz , és ha elhagyjuk ezt a tengelyt és a hozzá tartozó főkomponenst az adathalmaz reprezentációjából , akkor csak egy ezzel arányosan kis adatmennyiséget veszítünk el . Ahhoz , hogy megtaláljuk az ellipszoid tengelyeit , elsőként ki kell vonnunk minden változó átlagát az adathalmazból , hogy az adatokat az origó köré igazítsuk . Ezután kiszámítjuk az adatok kovarianciamátrixát és a sajátértékeket , illetve a kovarianciamátrixhoz tartozó sajátvektorokat . Utána merőlegesítjük ( ortogonalizáljuk ) és normalizáljuk a sajátvektor halmazt ( a klasszikus Karteziánus koordináta rendszerek egy típusa : ortonormált=ortogonális és normált ) , hogy egységvektorokat kapjunk . Ezt követően a kapott , kölcsönösen merőleges egységvektorokra úgy tekinthetünk , mint az ellipszoid adatra illesztett tengelyeire . A varianciák azon hányada , melyet az egyes sajátvektorok képviselnek kiszámítható úgy , hogy a sajátvektorhoz tartozó sajátértéket elosztjuk az összes sajátérték összegével . Fontos megjegyezni , hogy ez az eljárás érzékeny az adatok skálázására , s nem létezik konszenzus arra vonatkozólag , hogy hogyan kell az adatokat skálázni az optimális eredmények eléréséhez . Matematikában A főkomponens-analízis matematikailag úgy határozható meg , mint egy ortogonális lineáris transzformáció , mely az adatokat egy új koordináta rendszerbe transzformálja , ahol az adat bizonyos projekciója szerinti legnagyobb variancia az első koordinátán helyezkedik el ( az első főkomponens ) , a második legnagyobb variancia a második koordinátán , és így tovább . Legyen az adatmátrix ( X ) oszlop szerinti empirikus átlaga nulla ( minden oszlop mintaátlaga eltolódott nullára ) , ahol minden n sor egy kísérlet eltérőképpen való megismétlése és minden p oszlop egy bizonyos adat ( pl. egy résztvevő reakcióideje ) . Matematikailag a transzformáció egy p dimenziós , súlyokat vagy töltéseket tartalmazó vektorok halmaza által meghatározott , melyek minden sor vektort X-ből levetítenek egy új főkomponens szkór vektorra , a következő összefüggés által kifejezve , oly módon , hogy t egyes változói egymás után átöröklik a lehetséges legnagyobb varianciát x-ből úgy , hogy minden egyes w súlyvektor egységvektor legyen . A főkomponens-analízis folyamatában használt alapvető fogalmak és eljárások Szórás A szóródás mérőszáma , mely „ megmutatja , hogy ismérvértékek átlagosan mennyivel térnek el a számtani átlagtól” ( Hunyadi-Vita , o. ) . Kiszámítására a következő képlet használható : ahol s a szórás , az adatpont , a minta átlaga , n az elemszám ( a bevett minta nagysága ) . Variancia A variancia szintén egy szóródási mutató , a szórás négyzete . Képlete : . Kovariancia A kovariancia két , egymástól különböző adathalmaz együttmozgását adja meg , tehát kovariancia a két változó közti kapcsolatot és annak irányát adja meg ( Hunyadi-Vita , o. ) . Vagyis , ha pozitív , akkor a két változó közt pozitív irányú a kapcsolat , együtt nőnek ; ha negatív , akkor negatív irányú kapcsolat van , azaz , ha egyik változó nő , akkor a másik csökken . Ha , ez a két változó közti kapcsolat hiányát jelzi . Képlete : . Kovarianciamátrix A kovarianciamátrix felfogható úgy , mint az összes kiszámított kovariancia ábrázolása , vagyis egy olyan mátrix , melyben az pozíción egy X vektor i-edik és j-edik eleme közti kovariancia található . A kovarianciamátrix a következő képlet alapján írható fel : ahol egy mátrix , melynek n sora és n oszlopa van és az x-edik dimenzió . Ennek értelmében , ha egy adathalmaz három dimenzióval rendelkezik ( legyenek x , y , z ) , akkor a kovariáns mátrix3-as mintázatot fog követni , és a következőképpen írható fel : . Sajátvektor és sajátérték A sajátvektorok a mátrixok szorzásának egy speciális esete. λ szám akkor lesz az A mátrix sajátértéke , ha létezik olyan nemnulla X vektor , amelyre igaz , hogy Ax=λx . Ez az X vektor az A mátrix λ sajátértékhez tartozó sajátvektora . Például legyen a transzformációs mátrix és a sajátvektor \ . Ha A transzformációs mátrixszal balról megszorozzuk a v sajátvektort , a következő vektort kapjuk : , ahol a sajátérték λ = A sajátvektorok a következő tulajdonságokkal rendelkeznek : csak négyzetes mátrixoknak lehetnek sajátvektorai , illetve nem minden négyzetes mátrixnak van sajátvektora ; egy adott n x n-es mátrix , mely rendelkezik sajátvektorral , annak n darab sajátvektora van ; ha egy sajátvektort növelünk , mielőtt megszoroznánk , ugyanezen vektor többszörösét kapjuk . A főkomponens-analízis menete Első lépésben bevezetjük az adatokat és létrehozzuk az adathalmazt . Legyenek x és y . Második lépésben kivonjuk az átlagokat minden adat dimenzióból , vagyis minden x értékből kivonjuk a hozzá tartozó átlagot , illetve minden y értékből a hozzá tartozó átlagot . Harmadik lépésben kiszámoljuk a kovariáns mátrixot a fenti képlet alapján . Ez esetben a kovariáns mátrixxes lesz . Negyedik lépésben kiszámoljuk a kovarianciamátrixhoz tartozó sajátvektorokat és sajátértékeket . A főkomponens-analízis esetében fontos , hogy a sajátvektorok egységvektorok legyenek ( hosszuk A sajátvektoroknak egymásra merőlegeseknek kell lenniük . Ötödik lépésben kiválasztjuk a komponenseket és kialakítjuk a vonás vektort . A sajátvektorokat sajátérték szerint sorrendbe állítjuk , legnagyobbtól a legkisebbig , megkapva így a komponenseket szignifikanciájuk szerint . Ha a sajátértékek kellően kicsit , akkor az adatmennyiség amit elveszítünk ezzel arányos mértékben szintén kicsi lesz . Ezt követően létrehozzuk a vonásvektort a megtartott sajátvektorokból . Utolsó lépésben származtatjuk az új adathalmazt . Ez úgy történik , hogy az előző lépésben kapott vonás vektort , ami oszlopvektor , transzponáljuk , vagyis átalakítjuk sorvektorrá úgy , hogy a legszignifikánsabb sajátvektor lesz az első érték . Az így kapott vektort megszorozzuk jobbról az eredeti adathalmaz transzponáltjával . Jegyzetek Irodalom Hunyadi László – Vita László : Statisztika I, Budapest : Aula Kiadó , Jolliffe , I.T . Principal Component Analysis , second edition ( Springer ) . Fordítás Alkalmazott matematika Statisztika Pszichológia