Transferați învățarea - Transfer learning

Învățarea prin transfer (TL) este o problemă de cercetare în învățarea automată (ML) care se concentrează pe stocarea cunoștințelor acumulate în timp ce rezolva o problemă și aplicarea acesteia la o problemă diferită, dar conexă. De exemplu, cunoștințele acumulate în timpul învățării recunoașterii mașinilor s-ar putea aplica atunci când încercăm să recunoaștem camioanele. Această zonă de cercetare are o oarecare legătură cu lunga istorie a literaturii psihologice privind transferul învățării , deși legăturile practice dintre cele două domenii sunt limitate. Din punct de vedere practic, reutilizarea sau transferul de informații din sarcinile învățate anterior pentru învățarea de noi sarcini are potențialul de a îmbunătăți semnificativ eficiența eșantionului unui agent de învățare de consolidare .

Istorie

În 1976, Stevo Bozinovski și Ante Fulgosi au publicat o lucrare care abordează în mod explicit învățarea prin transfer în formarea rețelelor neuronale. Lucrarea oferă un model matematic și geometric de învățare prin transfer. În 1981 a fost dat un raport privind aplicarea învățării prin transfer în formarea unei rețele neuronale pe un set de date de imagini reprezentând litere ale terminalelor computerului. Atât învățarea transferului pozitiv, cât și negativ au fost demonstrate experimental.

În 1993, Lorien Pratt a publicat o lucrare despre transfer în învățarea automată , formulând algoritmul de transfer pe bază de discriminabilitate (DBT).

În 1997, oaspeții Pratt și Sebastian Thrun au editat un număr special de învățare automată dedicat învățării prin transfer și, până în 1998, domeniul a avansat pentru a include învățarea cu mai multe sarcini , împreună cu o analiză mai formală a fundamentelor sale teoretice. Învățând să înveți , editat de Thrun și Pratt, este o recenzie din 1998 a subiectului.

Învățarea prin transfer a fost, de asemenea, aplicată în știința cognitivă , iar Pratt a editat, de asemenea, un număr din Connection Science referitor la reutilizarea rețelelor neuronale prin transfer în 1996.

Andrew Ng a spus în tutorialul său NIPS 2016 că TL va fi următorul motor al succesului comercial ML după învățarea supravegheată pentru a evidenția importanța TL.

Definiție

Definiția învățării prin transfer este dată în termeni de domenii și sarcini. Un domeniu constă din: un spațiu caracteristic și o distribuție marginală de probabilitate , unde . Având în vedere un domeniu specific , o sarcină constă din două componente: un spațiu de etichetă și o funcție predictivă obiectivă . Funcția este utilizată pentru a prezice eticheta corespunzătoare a unei noi instanțe . Această sarcină, notată cu , este învățată din datele de formare constând din perechi , unde și . ${\ displaystyle {\ mathcal {D}}}$ ${\ displaystyle {\ mathcal {X}}}$ ${\ displaystyle P (X)}$ ${\ displaystyle X = \ {x_ {1}, ..., x_ {n} \} \ în {\ mathcal {X}}}$ ${\ displaystyle {\ mathcal {D}} = \ {{\ mathcal {X}}, P (X) \}}$ ${\ displaystyle {\ mathcal {Y}}}$ ${\ displaystyle f: {\ mathcal {X}} \ rightarrow {\ mathcal {Y}}}$ ${\ displaystyle f}$ ${\ displaystyle f (x)}$ ${\ displaystyle x}$ ${\ displaystyle {\ mathcal {T}} = \ {{\ mathcal {Y}}, f (x) \}}$ ${\ displaystyle \ {x_ {i}, y_ {i} \}}$ ${\ displaystyle x_ {i} \ în X}$ ${\ displaystyle y_ {i} \ in {\ mathcal {Y}}}$

Având în vedere un domeniu sursă și o sarcină de învățare , un domeniu țintă și o sarcină de învățare , în cazul în care sau transferul de învățare are scopul de a ajuta la îmbunătățirea învățării funcției predictive țintă în utilizarea cunoștințelor din și . ${\ displaystyle {\ mathcal {D}} _ {S}}$ ${\ displaystyle {\ mathcal {T}} _ {S}}$ ${\ displaystyle {\ mathcal {D}} _ {T}}$ ${\ displaystyle {\ mathcal {T}} _ {T}}$ ${\ displaystyle {\ mathcal {D}} _ {S} \ neq {\ mathcal {D}} _ {T}}$ ${\ displaystyle {\ mathcal {T}} _ {S} \ neq {\ mathcal {T}} _ {T}}$ ${\ displaystyle f_ {T} (\ cdot)}$ ${\ displaystyle {\ mathcal {D}} _ {T}}$ ${\ displaystyle {\ mathcal {D}} _ {S}}$ ${\ displaystyle {\ mathcal {T}} _ {S}}$

Aplicații

Algoritmi sunt disponibili pentru învățarea prin transfer în rețelele logice Markov și rețelele bayesiene . Învățarea prin transfer a fost aplicată și descoperirii subtipurilor de cancer, utilizării clădirilor , jocului general , clasificării textelor , recunoașterii cifrelor, imagisticii medicale și filtrării spamului .

În 2020 s-a descoperit că, datorită naturii lor fizice similare, învățarea prin transfer este posibilă între semnalele electromiografice (EMG) de la mușchi atunci când se clasifică comportamentele undelor cerebrale electroencefalografice (EEG) din domeniul recunoașterii gesturilor în domeniul recunoașterii stării mentale. De asemenea, sa remarcat faptul că această relație a funcționat invers, arătând că EEG poate fi, de asemenea, utilizat pentru a clasifica EMG în plus. Experimentele au observat că acuratețea rețelelor neuronale și a rețelelor neuronale convoluționale au fost îmbunătățite prin învățarea prin transfer atât la prima epocă (înainte de orice învățare, adică comparativ cu distribuția standard aleatorie a greutății), cât și la asimptotă (sfârșitul procesului de învățare) . Adică algoritmii sunt îmbunătățiți prin expunerea la un alt domeniu. Mai mult, utilizatorul final al unui model pre-instruit poate schimba structura straturilor complet conectate pentru a obține performanțe superioare.

Vezi si

Referințe

Surse

Thrun, Sebastian; Pratt, Lorien (6 decembrie 2012). Învățarea de a învăța . Springer Science & Business Media. ISBN 978-1-4615-5529-2.

Languages

In other projects