Att rita en elevs genomsnittliga prestanda mot antalet träningsprover resulterar i en inlärningskurva. Att studera sådana kurvor på en eller flera datauppsättningar är ett sätt att få en bättre förståelse för den här elevens generaliseringsegenskaper. Inlärningskurvornas beteende är dock inte särskilt välbegripligt och kan visa (för de flesta forskare) ganska oväntat beteende. Vårt arbete introducerar det formella begreppet riskmonotonicitet, som kräver att risken inte försämras med ökande träningsstorlekar i förväntan på träningsproven. Vi presenterar sedan det överraskande resultatet att olika standardinlärare, särskilt de som minimerar den empiriska risken, kan agera nonmonotoniskt oberoende av träningsprovets storlek. Vi tillhandahåller en teoretisk grund för specifika momentiationer från klassificering, regression och densitetsuppskattning. Sammantaget öppnar det föreslagna monotonitetsbegreppet upp en helt ny forskningsriktning.
REF introducerar samma begrepp om riskmonotonicitet som vi tar hänsyn till, och studerar flera exempel på monotona och icke-monotoniska förfaranden.
Minimizers of the Empirical Risk and Risk Monotonicity
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}