Stackade denoiserande autokodrar (SDA) har framgångsrikt använts för att lära sig nya representationer för domänanpassning. Nyligen har de uppnått rekordnoggrannhet på standardriktmärkesuppgifter för känsloanalys över olika textdomäner. SDA lär sig robusta data representationer genom rekonstruktion, återhämta original funktioner från data som är artificiellt korrumperade med buller. I detta dokument föreslår vi marginaliserad SDA (mSDA) som tar upp två avgörande begränsningar av SDA: höga beräkningskostnader och brist på skalbarhet till högdimensionella funktioner. I motsats till SDAs, vår strategi för mSDA marginaliserar buller och därmed inte kräver stokastisk lutning nedstigning eller andra optimeringsalgoritmer för att lära sig parametrar - i själva verket, de beräknas i sluten form. Följaktligen, mSDA, som kan genomföras i endast 20 rader av MATLAB TM, avsevärt påskyndar SDA med två storleksordningar. Dessutom är de representationer som MSDA har lärt sig lika effektiva som de traditionella SDA-kontoren, med nästan identiska noggrannheter i referensuppgifter.
Chen och Al. REF föreslog de marginaliserade staplade denoiserande autokodrarna (mSDA) som tog itu med två avgörande begränsningar av SDA: höga beräkningskostnader och brist på skalbarhet för högdimensionella funktioner.
Marginalized Denoising Autoencoders for Domain Adaptation
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}