Abstrakt. I detta dokument studerar vi problemet med bildrepresentationsinlärning utan mänsklig notering. Genom att följa principerna för självövervakning bygger vi ett konvolutionellt neuralt nätverk (CNN) som kan tränas för att lösa pussel som en förevändning uppgift, vilket kräver ingen manuell märkning, och sedan senare repurposed för att lösa objektklassificering och detektion. För att upprätthålla kompatibiliteten mellan uppgifter introducerar vi det sammanhangsfria nätverket (CFN), en siamese-ennead CNN. CFN tar bildplattor som indata och begränsar uttryckligen det mottagliga fältet (eller sammanhanget) för dess tidiga bearbetningsenheter till en kakel i taget. Vi visar att CFN är en mer kompakt version av AlexNet, men med samma semantiska inlärningsförmåga. Genom att träna CFN att lösa pussel, lär vi oss både en funktion kartläggning av objektdelar samt deras korrekta rumsliga arrangemang. Våra experimentella utvärderingar visar att de inlärda funktionerna fångar semantiskt relevant innehåll. Efter att ha tränat våra CFN-funktioner för att lösa pussel på träningssetet i ILSRV 2012-datasetet [9] överför vi dem via finjustering på den kombinerade utbildnings- och valideringssetet Pascal VOC 2007 för objektdetektering (via snabb RCNN) och klassificering. CFN-funktionernas prestanda är 51,8 % för detektion och 68,6 % för klassificering, vilket är det högsta bland de funktioner som erhålls genom oövervakat lärande, och att minska gapet med de funktioner som erhålls genom övervakad inlärning (56,5 % respektive 78,2 %). I objektklassificeringen uppnår CFN-funktionerna 38,1 % på ILSRV 2012-valideringssetet, efter finjustering endast de fullt anslutna skikten på träningssetet.
Noroozi m.fl. Inlärda funktioner genom att lösa pussel REF.
Unsupervised Learning of Visual Representations by Solving Jigsaw Puzzles
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}