Med tillkomsten av stora märkta dataset och högkapacitetsmodeller har prestandan hos maskinseende system förbättrats snabbt. Tekniken har dock fortfarande stora begränsningar, från det faktum att olika synproblem fortfarande löses av olika modeller, tränas från grunden eller finjusteras på måldata. Det mänskliga visuella systemet, i skarp kontrast, lär sig en universell bildåtergivning i en individs tidiga liv. Denna representation fungerar bra för en enorm variation av vision problem, med liten eller ingen förändring, med den stora fördelen att kräva lite träningsdata för att lösa någon av dem. I detta dokument undersöker vi om neurala nätverk kan fungera som universella representationer genom att studera deras kapacitet i förhållande till "storleken" av en stor kombination av synproblem. Vi gör det genom att visa att ett enda neuralt nätverk kan lära sig samtidigt flera mycket olika visuella domäner (från skisser till planktoner och MNIST siffror) samt, eller bättre än, ett antal specialiserade nätverk. Men vi visar också att detta kräver att noggrant normalisera informationen i nätverket, genom att använda domänspecifika skalningsfaktorer eller, mer generiskt, genom att använda en instans normalisering lager.
Termen "universal representation" myntades av REF och avser en bildrepresentation som fungerar lika bra för ett stort antal visuella domäner.
Universal representations:The missing link between faces, text, planktons, and cat breeds
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}