Det finns ett växande intresse för att lära sig datarepresentationer som fungerar bra för många olika typer av problem och data. I detta papper tittar vi särskilt på uppgiften att lära sig en enda visuell representation som framgångsrikt kan användas i analysen av mycket olika typer av bilder, från hundraser för att stoppa tecken och siffror. Inspirerad av det senaste arbetet med att lära sig nätverk som förutsäger parametrar för en annan utvecklar vi en tonfiskbar djup nätverk arkitektur som, med hjälp av adaptrar restmoduler, kan styras i farten till olika visuella domäner. Vår metod uppnår en hög grad av parameterdelning samtidigt som den bibehåller eller till och med förbättrar noggrannheten hos domänspecifika representationer. Vi introducerar också Visual Decathlon Challenge, ett riktmärke som utvärderar förmågan av representationer att fånga samtidigt tio mycket olika visuella domäner och mäter deras förmåga att känna igen väl enhetligt.
REF visade att ett liknande tillvägagångssätt kan användas för att anpassa ett neuralt nätverk, i farten, till helt olika visuella domäner.
Learning multiple visual domains with residual adapters