Flera senaste arbeten har visat att toppmoderna klassificeringar är sårbara för värsta tänkbara (dvs. kontradiktoriska) störningar av datapunkterna. Å andra sidan har det empiriskt observerats att dessa samma klassificeringar är relativt robusta mot slumpmässigt buller. I det här dokumentet föreslår vi att man studerar ett bullersystem med halvslump som generaliserar både de slumpmässiga och de värsta bullersystemen. Vi föreslår den första kvantitativa analysen av robustheten hos ickelinjära klassificeringar i detta allmänna bullersystem. Vi fastställer exakta teoretiska gränser för klassificeringens robusthet i denna allmänna ordning, som är beroende av krökning av klassificeringens beslutsgräns. Våra gränser bekräftar och kvantifierar de empiriska observationer som klassificerare som uppfyller krökningsbegränsningar är robusta mot slumpmässigt buller. Dessutom kvantifierar vi rangordnarnas robusthet när det gäller subrymdsdimensionen i det halvslumpmässiga bullersystemet, och visar att våra gränser anmärkningsvärt interpolerar mellan det värsta och slumpmässiga bullersystemet. Vi utför experiment och visar att de härledda gränserna ger mycket exakta uppskattningar när de tillämpas på olika toppmoderna djupa neurala nätverk och datauppsättningar. Detta resultat antyder gränser för krökning av klassificeringens beslutsgränser som vi stöder experimentellt, och mer allmänt ger viktiga insikter om geometrin hos problem med högdimensionell klassificering.
När det gäller teori är REF det första arbetet med att tillhandahålla kvantitativa gränser för klassificeringens robusthet; de analyserar robustheten hos linjära och kvadratiska klassificeringar när den tillsatta perturberingen är slumpmässig såväl som semirandom.
Robustness of classifiers: from adversarial to random noise
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}