curriculum learning
Megjelenés
| part of a series on |
| machine learning and data mining |
|---|
Főnév
curriculum learning (tsz. curriculum learnings)
- (informatika) Curriculum learning (magyarul: tanterv szerinti tanulás vagy progresszív tanulás) egy gépi tanulási stratégia, amelyben a modellt egyszerűbb példákon tanítjuk meg először, majd fokozatosan egyre nehezebb példákra térünk át. Az ötlet emberi tanulásból ered: ahogyan a diákok is alapoktól haladnak a bonyolultabb fogalmak felé.
🧠 Alapötlet
A koncepciót Yoshua Bengio és munkatársai vezették be 2009-ben az alábbi fő elv alapján:
„A tanulás akkor hatékonyabb, ha a modellek az egyszerűbb példákat először tanulják meg, és fokozatosan térnek át az összetettebb példák feldolgozására.”
🎯 Célok
- Gyorsabb konvergencia a tanulás során
- Jobb általánosítás (generalizáció) a tesztadatokra
- Stabilabb és robusztusabb tanulás a zajos adatokkal szemben
- Jobb viselkedés nem konvex optimalizációban (pl. neurális hálózatoknál)
📚 Példák curriculum struktúrára
| Probléma | Egyszerű → Nehéz |
|---|---|
| Képosztályozás | Nagy, kontrasztos képek → kicsi, zajos képek |
| Gépi fordítás | Rövid, nyelvtanilag egyszerű mondatok → hosszú, összetett szerkezetek |
| Matematikai feladatok | Egyszerű összeadás → komplex algebrai kifejezések |
🔄 Működési elv
- Példák nehézségi szint szerint való rangsorolása → emberi szakértő vagy automatikus metrika alapján (pl. hiba, bizonytalanság, hosszúság stb.)
- Tanulás fokozatokban (staging) → először könnyű példákon tanítunk, majd később nehezebbeket is bevonunk
- Tréningadatok dinamikus frissítése → egyes módszerek adaptív módon bővítik a tanulási készletet, ahogy a modell fejlődik
🛠️ Implementációs stratégiák
- Manual curriculum: a nehézségi sorrendet előre meghatározza az ember
- Self-paced learning: a modell maga dönti el, mely példákat használ, pl. alacsony veszteséggel tanulható példák előnyben
- Adaptive curriculum: példák nehézsége a modell aktuális teljesítményéhez igazodik (pl. reinforcement learning-ben)
🧪 Példa (Képosztályozás)
# Egyszerűbb képeket először:
easy_images = [x for x in dataset if contrast(x) > 0.8]
medium_images = ...
hard_images = ...
train(model, easy_images)
train(model, medium_images)
train(model, hard_images)
🤖 Alkalmazási területek
| Terület | Használat |
|---|---|
| 🌍 NLP | nyelvtanulás, szövegértés, gépi fordítás |
| 🖼️ Képfeldolgozás | osztályozás, szegmentálás, detektálás |
| 🎮 Reinforcement Learning | egyszerűbb környezetek → bonyolultabb szintek |
| 🧠 Neurális hálózatok betanítása | stabilizálás, jobb lokális minimum elérése |
🧠 TL;DR
A curriculum learning egy tanítási stratégia, ahol a modell egyszerű példákon tanul először, majd fokozatosan nehezebb példák felé halad. Célja, hogy a tanulás gyorsabb, stabilabb és jobban általánosítható legyen – hasonlóan ahhoz, ahogy az emberek is tanulnak.
- curriculum learning - Szótár.net (en-hu)
- curriculum learning - Sztaki (en-hu)
- curriculum learning - Merriam–Webster
- curriculum learning - Cambridge
- curriculum learning - WordNet
- curriculum learning - Яндекс (en-ru)
- curriculum learning - Google (en-hu)
- curriculum learning - Wikidata
- curriculum learning - Wikipédia (angol)