Framgången med djupa neurala nätverk bygger ofta på en stor mängd märkta exempel, som kan vara svårt att få i många verkliga scenarier. För att ta itu med denna utmaning, oövervakade metoder är starkt att föredra för utbildning neurala nätverk utan att använda någon märkt data. I detta dokument presenterar vi ett nytt paradigm av oövervakad representationsinlärning av Auto-Encoding Transformation (AET) i motsats till den konventionella metoden Auto-Encoding Data (AED). Med tanke på en slumpmässigt provad omvandling, AET försöker förutsäga det bara från kodade funktioner så exakt som möjligt vid utgången. Tanken är följande: så länge de oövervakade funktionerna framgångsrikt kodar den väsentliga informationen om de visuella strukturerna i original och transformerade bilder, kan omvandlingen väl förutsägas. Vi kommer att visa att detta AET paradigm gör det möjligt för oss att omedelbart påbörja en stor variation av omvandlingar, från parameteriserade, till icke-parameteriserade och GAN-framkallade. Våra experiment visar att AET avsevärt förbättrar över befintliga oövervakade metoder, att sätta nya state-of-the-art föreställningar är mycket närmare de övre gränserna av deras helt övervakade motparter på CIFAR-10, ImageNet och Platser datauppsättningar. Våra källkoder finns på https://github.com/ lönle-research-lab/AET.
Zhang m.fl. REF föreslår att man lär sig oövervakade funktionsrepresentationer via Auto-Encoding Transformations (AET) genom att uppskatta transformationer från de inlärda funktionsrepresentationerna av både originalbilder och transformerade bilder.
AET vs. AED: Unsupervised Representation Learning by Auto-Encoding Transformations Rather Than Data
{'venue': '2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)', 'journal': '2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)', 'mag_field_of_study': ['Computer Science']}