Ugrás a tartalomhoz

algorithmic probability

A Wikiszótárból, a nyitott szótárból


Főnév

algorithmic probability (tsz. algorithmic probabilities)

  1. (informatika, mesterséges intelligencia) Az algorithmic probability (magyarul: algoritmikus valószínűség) az információelmélet és algoritmikus tanulás egy fogalma, amely a valószínűséget köti össze a legrövidebb programok hosszával egy adott adatsor előállítására.



Mi az az algorithmic probability?

  • Egy adott adat vagy megfigyelés valószínűségét méri annak alapján, hogy mennyire valószínű, hogy egy véletlenszerűen generált program hozza létre azt egy univerzális Turing-gépen.
  • Más szóval: minél rövidebb (egyszerűbb) az a program, ami előállítja az adott adatot, annál nagyobb az adat algoritmikus valószínűsége.



Formalizálás

Ha egy adott adat, akkor az algoritmikus valószínűsége megközelítőleg:

ahol

  • egy univerzális Turing-gép,
  • egy olyan program, amely az adatot állítja elő,
  • a program hossza (bitben).

Ez azt jelenti, hogy összeadjuk az összes olyan program hozzájárulását, amelyek -et generálják, és a hozzájárulásuk fordított arányban van a program hosszával (rövidebb program nagyobb súlyú).



Kapcsolódó fogalmak

  • Kolmogorov komplexitás: A legrövidebb program hossza, amely előállítja az adott adatot.
  • Solomonoff-féle indukció: Az algoritmikus valószínűség elméleti alapja az univerzális előrejelzésnek.



Miért fontos?

  • Egy alapelv az automatikus tanulásban és predikcióban, amely az egyszerűség elvén (Occam borotvája) alapul.
  • Az algoritmikus valószínűség formalizálja azt a gondolatot, hogy a egyszerűbb magyarázatok a valószínűbbek.
  • Alapja az univerzális prediktív modelleknek, ahol nem ismerjük előre a környezet működését.



Összefoglaló

Az algorithmic probability azt méri, hogy egy adat mennyire valószínű, hogy előáll egy véletlenszerű program segítségével egy univerzális számítógépen, és ezzel az egyszerűség és a valószínűség szoros kapcsolatát fejezi ki.