Ugrás a tartalomhoz

maximum-likelihood becslés

A Wikiszótárból, a nyitott szótárból

Kiejtés

  • IPA: [ ˈmɒksimumlikɛliɦoodbɛt͡ʃleːʃ]

Főnév

maximum-likelihood becslés

  1. (matematika, valószínűségszámítás) A maximum-likelihood becslés (MLE, Maximum Likelihood Estimation) egy statisztikai módszer, amelyet paraméterek becslésére használunk valószínűségi modellekben. Az MLE célja olyan paraméterértékek megtalálása, amelyek mellett a megfigyelt adatok előfordulásának valószínűsége maximális.

Lépések az MLE alkalmazásához:

1. Valószínűségi függvény: Tegyük fel, hogy van egy minta megfigyeléseinkről, amelyeket egy ismert valószínűségi eloszlásból vettünk, de nem ismerjük az eloszlás paramétereit. A valószínűségi függvény azt fejezi ki, hogy a paraméter () milyen valószínűséggel adja meg a megfigyelt adatok értékeit.

2. Maximum-likelihood függvény: A megfigyelt adatok alapján kiszámítjuk a valószínűségi függvényt, amely az összes megfigyelés együttes valószínűségét adja meg. Ez a likelihood függvény (valószínűségi függvény) a paraméter(ek) függvényében: ahol a megfigyelt adatok, és a keresett paraméter vagy paraméterek.

3. Log-likelihood függvény: A valószínűségi függvényt gyakran átalakítjuk log-likelihood függvénnyé, mert a logaritmus segítségével könnyebb a maximális értéket megtalálni: Mivel a logaritmus monoton növekvő függvény, a maximumhelyek ugyanazok, mint az eredeti valószínűségi függvényé.

4. Maximalizálás: Az MLE-ben a cél az, hogy megtaláljuk azt a paramétert, amely maximalizálja a likelihood függvényt. Matematikailag ez deriválással történik: megkeressük a függvény maximumát azáltal, hogy a log-likelihood függvényt deriváljuk a -ra nézve, majd a deriváltat nullával tesszük egyenlővé:

5. Paraméter becslése: A deriválás és megoldás után megkapjuk azt a paramétert (vagy paramétereket), amely a maximális valószínűséget adja. Ez lesz a maximum-likelihood becslés a keresett paraméterre.

Példa:

Tegyük fel, hogy van egy minta, amelyet egy normális eloszlásból vettünk, és szeretnénk megbecsülni a normális eloszlás középértékét () és szórását (). A likelihood függvény a normális eloszlás esetén a következőképpen alakul:

Az MLE módszerrel meg kell keresni azt az és értéket, amely maximalizálja ezt a függvényt. A log-likelihood függvényt maximalizálva kapjuk meg a következő becsléseket:

- — azaz a mintaátlag, - — azaz a mintaszórás négyzete.

MLE tulajdonságai:

- Konzisztens: Nagy mintaméret esetén a maximum-likelihood becslés közelít a valódi paraméterhez. - Aszimptotikusan normális: Nagy mintánál a becslés normális eloszlást követ. - Hatásos: Nagy mintánál az MLE a legkisebb varianciájú becslést adja a lehetséges becslések közül.

Az MLE egy nagyon gyakori és hasznos módszer paraméterbecslésre különféle statisztikai modellekben.