Överföringsinlärning - Transfer learning

Transfer learning (TL) är ett forskningsproblem inom maskininlärning (ML) som fokuserar på att lagra kunskap som samlats in samtidigt som man löser ett problem och tillämpar det på ett annat men relaterat problem. Till exempel kan kunskap som man får när man lär sig känna igen bilar gälla när man försöker känna igen lastbilar. Detta forskningsområde har en viss koppling till den psykologiska litteraturens långa historia om överföring av lärande , även om praktiska band mellan de två områdena är begränsade. Ur praktisk synpunkt har återanvändning eller överföring av information från tidigare inlärda uppgifter för inlärning av nya uppgifter potential att avsevärt förbättra proveffektiviteten hos ett förstärkningsinlärningsagent .

Historia

År 1976 publicerade Stevo Bozinovski och Ante Fulgosi en uppsats som uttryckligen tar upp överföringsinlärning i träning i neurala nätverk. Papperet ger en matematisk och geometrisk modell för överföringsinlärning. År 1981 gavs en rapport om tillämpningen av överföringsinlärning vid utbildning av ett neuralt nätverk på en datamängd med bilder som representerar bokstäver i datorterminaler. Både positivt och negativt överföringsinlärning demonstrerades experimentellt.

År 1993 publicerade Lorien Pratt en uppsats om överföring i maskininlärning , där han formulerade den diskrimineringsbaserade överföringsalgoritmen (DBT).

1997 redigerade Pratt och Sebastian Thrun gäst ett specialnummer av maskininlärning för överföringsinlärning, och 1998 hade fältet avancerat till att inkludera multi-task-inlärning , tillsammans med en mer formell analys av dess teoretiska grunder. Learning to Learn , redigerad av Thrun och Pratt, är en 1998 -genomgång av ämnet.

Transferlärning har också tillämpats inom kognitiv vetenskap , med Pratt som gästredigerare i ett nummer av Connection Science om återanvändning av neurala nätverk genom överföring 1996.

Andrew Ng sa i sin NIPS 2016 -handledning att TL kommer att bli nästa drivkraft för ML kommersiell framgång efter övervakad inlärning för att lyfta fram vikten av TL.

Definition

Definitionen av överföringsinlärning ges när det gäller domäner och uppgifter. En domän består av: ett funktionsutrymme och en marginell sannolikhetsfördelning , där . Med tanke på en specifik domän består en uppgift av två komponenter: ett etikettutrymme och en objektiv prediktiv funktion . Funktionen används för att förutsäga motsvarande etikett för en ny instans . Denna uppgift, betecknad med , lärs av träningsdata som består av par , var och . ${\ displaystyle {\ mathcal {D}}}$ ${\ displaystyle {\ mathcal {X}}}$ ${\ displaystyle P (X)}$${\ displaystyle X = \ {x_ {1}, ..., x_ {n} \} \ i {\ mathcal {X}}}$${\ displaystyle {\ mathcal {D}} = \ {{\ mathcal {X}}, P (X) \}}$${\ displaystyle {\ mathcal {Y}}}$${\ displaystyle f: {\ mathcal {X}} \ rightarrow {\ mathcal {Y}}}$${\ displaystyle f}$${\ displaystyle f (x)}$${\ displaystyle x}$${\ displaystyle {\ mathcal {T}} = \ {{\ mathcal {Y}}, f (x) \}}$${\ displaystyle \ {x_ {i}, y_ {i} \}}$${\ displaystyle x_ {i} \ i X}$${\ displaystyle y_ {i} \ i {\ mathcal {Y}}}$

Med tanke på en källdomän och inlärningsuppgift , en måldomän och inlärningsuppgift , där , eller , överföringsinlärning syftar till att förbättra inlärningen av målprediktionsfunktionen i att använda kunskapen i och . ${\ displaystyle {\ mathcal {D}} _ {S}}$${\ displaystyle {\ mathcal {T}} _ {S}}$${\ displaystyle {\ mathcal {D}} _ {T}}$${\ displaystyle {\ mathcal {T}} _ {T}}$${\ displaystyle {\ mathcal {D}} _ {S} \ neq {\ mathcal {D}} _ {T}}$${\ displaystyle {\ mathcal {T}} _ {S} \ neq {\ mathcal {T}} _ {T}}$${\ displaystyle f_ {T} (\ cdot)}$${\ displaystyle {\ mathcal {D}} _ {T}}$${\ displaystyle {\ mathcal {D}} _ {S}}$${\ displaystyle {\ mathcal {T}} _ {S}}$

Ansökningar

Algoritmer är tillgängliga för överföringsinlärning i Markovs logiska nätverk och Bayesianska nätverk . Överföringsinlärning har också tillämpats på upptäckt av cancersubtyp, byggnadsanvändning , allmänt spel , textklassificering , sifferigenkänning, medicinsk bildbehandling och skräppostfiltrering .

År 2020 upptäcktes att på grund av deras liknande fysiska natur är överföringsinlärning möjlig mellan elektromyografiska (EMG) signaler från musklerna när man klassificerar beteendet hos elektroencefalografiska (EEG) hjärnvågor från gestigenkänningsdomänen till området för mental tillståndsigenkänning. Det noterades också att detta förhållande fungerade tvärtom, vilket visar att EEG på samma sätt kan användas för att klassificera EMG dessutom. Experimenten noterade att noggrannheten hos neurala nätverk och konvolutionella neurala nätverk förbättrades genom överföringsinlärning både vid den första epoken (före varje inlärning, dvs. jämfört med standard slumpmässig viktfördelning) och vid asymptoten (slutet av inlärningsprocessen) . Det vill säga algoritmer förbättras genom exponering för en annan domän. Slutanvändaren av en förutbildad modell kan dessutom ändra strukturen hos fullt anslutna lager för att uppnå överlägsen prestanda.

Se även

• Crossover (genetisk algoritm)
• Domänanpassning
• Allmänt spel
• Inlärning med flera uppgifter
• Multitask optimering

Referenser

Källor

• Thrun, Sebastian; Pratt, Lorien (6 december 2012). Att lära sig lära . Springer Science & Business Media. ISBN 978-1-4615-5529-2.