Dataförstärkning, en teknik där ett träningsset utökas med klassbevarande transformationer, är allestädes närvarande i moderna maskininlärningspipelines. I detta dokument försöker vi etablera en teoretisk ram för att förstå moderna dataförstärkningsmetoder. Vi börjar med att visa att för kärnklassificeringar kan dataförstärkning approximeras med hjälp av första ordningens medel- och andra ordningens variansregleringskomponenter. Vi kopplar detta allmänna approximationsramverk till tidigare arbete i invarianta kärnor, tangentutbredning och robust optimering. Därefter tar vi uttryckligen upp kompositionsaspekten av moderna dataförstärkande tekniker och föreslår en ny modell för dataförstärkning som en Markovprocess. Enligt denna modell, visar vi att utföra k-nearest grannar med dataförstärkning är asymptotiskt ekvivalent med en kärna klassificerare. Slutligen illustrerar vi hur vårt teoretiska ramverk kan utnyttjas för att påskynda arbetsflöden för maskininlärning i praktiken, inklusive att minska den mängd beräkning som krävs för att träna på utökade data, och förutsäga nyttan av en transformation före utbildningen.
Nyligen föreslog REF en teoretisk ram för att förstå dataförstärkning och visade dataförstärkning med en kärnklassificering kan ha medelvärdes- och variansregleringseffekter.
A Kernel Theory of Modern Data Augmentation
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics', 'Medicine']}