Ugrás a tartalomhoz

Eliezer Yudkowsky

A Wikiszótárból, a nyitott szótárból
(Yudkowsky szócikkből átirányítva)

Angol


Főnév

Eliezer Yudkowsky (tsz. Eliezer Yudkowskies)

  1. (informatika) Eliezer Shlomo Yudkowsky (született 1979. szeptember 11-én) amerikai kutató, író és gondolkodó, aki elsősorban a mesterséges intelligencia biztonságának (AI safety) és az egzisztenciális kockázatoknak a területén ismert. A Machine Intelligence Research Institute (MIRI, korábbi nevén Singularity Institute for Artificial Intelligence, SIAI) egyik alapítója.

Yudkowsky nem akadémiai végzettségű (autodidakta) kutató, de gondolatai jelentős hatással voltak az AI biztonsági közösség formálódására, különösen a Friendly Artificial Intelligence (FAI, barátságos mesterséges intelligencia) koncepcióján keresztül.


Fő területei

  1. AI biztonság
  2. Egzisztenciális kockázatok
  3. Racionális gondolkodás és kognitív torzítások
  4. Bayes-i érvelés és döntéshozatal
  5. Hosszútávú jövőkutatás


Machine Intelligence Research Institute (MIRI)

  • Yudkowsky 2000-ben alapította meg a MIRI-t (akkor még SIAI néven), amely az egyik első olyan szervezet volt, amely az AGI hosszútávú biztonsági problémáit kutatta.
  • A MIRI célja az, hogy megelőzze azokat a potenciális katastrofális kockázatokat, amelyeket egy nem biztonságos szuperintelligencia jelenthet.
  • Yudkowsky írásai és kutatásai révén a MIRI központi szereplővé vált az AI safety mozgalomban.


Barátságos mesterséges intelligencia (FAI)

Yudkowsky egyik legfontosabb fogalma a Friendly Artificial Intelligence (FAI). Alapgondolata, hogy ha az AGI szintjét elérjük, akkor annak céljait nagyon óvatosan kell megfogalmazni, különben a rendszer nem szándékolt katasztrófákat okozhat.

Probléma:

  • Egy szuperintelligencia, amelyet hibásan programoztak, nem gonosz lesz, hanem közömbös az emberi értékek iránt.
  • Ha például egy MI célja papírkapcsok gyártása, és nincsenek korlátozások, a világ erőforrásait papírkapcsokká alakíthatja, figyelmen kívül hagyva az emberek életét.

Yudkowsky hangsúlyozza:

  • az MI céljait úgy kell meghatározni, hogy önfejlesztés során is megőrizze a “barátságosságot”, vagyis az emberi jólétet szolgáló viselkedést.


Intelligence Explosion — Intelligenciarobbanás

Yudkowsky nagyon fontosnak tartja az intelligencia-robbanás koncepcióját (Vinge is korábban felvetette). Szerinte:

  • Egy kellően okos AGI képes lesz önmaga továbbfejlesztésére.
  • Ez gyorsuló fejlődéshez vezethet — a rendszer nagyon rövid idő alatt messze túlszárnyalhatja az emberi intelligenciát.
  • Ha a robbanás barátságtalan AI irányában következik be, az egzisztenciális kockázatot jelent.


Módszertani elvei

1. Bayes-i racionalitás

Yudkowsky nagy hangsúlyt fektet a Bayes-i gondolkodás népszerűsítésére:

  • a bizonyítékok alapján folyamatosan frissíteni kell a hiedelmeinket,
  • el kell kerülni az irracionális kognitív torzításokat.

2. Kognitív torzítások

  • Számos írásában feltárja, hogy az emberi agy hogyan hoz szisztematikusan hibás döntéseket.
  • Célja, hogy az AI tervezésekor ne ültessük át ezeket a hibákat.


Írói tevékenysége

1. LessWrong

  • Yudkowsky 2006-tól kezdve a LessWrong közösségi blog egyik fő szerzője lett.
  • A LessWrong célja: racionális gondolkodás oktatása, filozófiai és AI kérdések vizsgálata.
  • Írásai közérthetően tárgyalják a bonyolult kérdéseket: AI safety, kognitív torzítások, jövőkutatás.

2. Sequences

  • A LessWrong-on megjelent Sequences (Szekvenciák) sorozata a közösség alapművévé vált.
  • Témák:
    • Mi az igazság?
    • Hogyan kerüljük el a kognitív hibákat?
    • Miért veszélyes a nem barátságos MI?
    • Mi az intelligencia-robbanás?

3. Harry Potter and the Methods of Rationality

  • Egy népszerű fanfiction regényt is írt: Harry Potter and the Methods of Rationality (HPMOR).
  • Ebben a klasszikus Harry Potter történetet egy racionális és tudományos szemléletű Harry szemszögéből meséli el.
  • A mű célja: népszerűsíteni a racionális gondolkodást a szélesebb közönség számára.


Kritika

  • Nem akadémiai pálya: sokan kritizálják Yudkowskyt, mert nincs formális diplomája, tudományos publikációinak száma kevés.
  • Stílusa radikális lehet: előadásmódja sokszor katasztrófaközpontú, egyesek szerint “apokaliptikus”.
  • Nehéz formalizálni a Friendly AI-t: sok kutató szerint nagyon nehéz formalizált, bizonyítható FAI-t készíteni, a problémát Yudkowsky inkább filozófiai oldalról közelíti meg.


Hatása

  • Yudkowsky jelentős inspirációt adott a mai AI safety közösség kialakulásához.
  • Számos mai kutató, pl. Nick Bostrom, Stuart Russell, Paul Christiano munkássága is részben az ő korai írásai által inspirálódott.
  • A MIRI ma is az AI biztonsági kutatás egyik fontos központja.
  • A LessWrong közösség több ezer ember gondolkodását befolyásolta világszerte.


Fő üzenetei

  1. Az AGI veszélyei valósak.
  2. Ha rosszul csináljuk, az emberiség megszűnhet.
  3. A barátságos célokat nagyon nehéz pontosan definiálni.
  4. A kognitív torzításaink gátolják a tiszta gondolkodást — ezeket le kell küzdenünk.
  5. A racionális, Bayes-i gondolkodás életmentő lehet.


Ajánlott olvasmányok

  • “Creating Friendly AI” (2001) — alapvető írás a FAI-ról
  • “Levels of Organization in General Intelligence” — az intelligencia fokozatairól
  • LessWrong Sequences — online ingyenesen elérhető (https://www.lesswrong.com)
  • Harry Potter and the Methods of Rationality (HPMOR) — https://www.hpmor.com


Összegzés

Eliezer Yudkowsky egy meghatározó és karizmatikus alak az AI safety közösségben. Bár nincs formális tudományos végzettsége, írásai és gondolatai jelentős mértékben formálták a mesterséges intelligencia etikai és biztonsági gondolkodásának mai irányvonalát.

Legfontosabb hozzájárulása a Friendly Artificial Intelligence koncepciója, az intelligencia-robbanás figyelmeztetése, valamint a racionális gondolkodás népszerűsítése.

További információk

A lap eredeti címe: „https://hu.wiktionary.org/w/index.php?title=Eliezer_Yudkowsky&oldid=3501917”