Även om standardformuleringarna av förutsägelseproblem innefattar fullt observerade och ljudlösa data som dras i en i.i.d. sätt, många ansökningar innebär bullriga och / eller saknade data, eventuellt innebär beroende, samt. Vi studerar dessa frågor i samband med högdimensionell linjär regression och föreslår nya estimatorer för fall av bullriga, saknade och/eller beroende data. Många standardmetoder för bullriga eller saknade data, såsom de som använder EM-algoritmen, leder till optimeringsproblem som i sig inte är konvexa, och det är svårt att fastställa teoretiska garantier för praktiska algoritmer. Medan vårt tillvägagångssätt också innebär att optimera icke-konvexa program, kan vi både analysera det statistiska felet i samband med någon global optimal, och mer överraskande, för att bevisa att en enkel algoritm baserad på projicerad lutning nedstigning kommer att konvergera i polynom tid till ett litet område i uppsättningen av alla globala minimerare. På den statistiska sidan tillhandahåller vi icke-asymptotiska gränser som håller med stor sannolikhet för fall av bullriga, saknade, och / eller beroende data. På beräkningssidan, vi bevisar att under samma typer av villkor som krävs för statistisk konsekvens, den beräknade lutning nedstigning algoritm garanteras att konvergera med en geometrisk hastighet till en nästan global minimerare. Vi illustrerar dessa teoretiska förutsägelser med simuleringar och visar en nära överensstämmelse med de förutsagda skalningarna.
Nyligen, Loh och Wainwright REF studerade problemet med bullriga och saknade data, och föreslog en projicerad lutning nedstigning algoritm.
High-dimensional regression with noisy and missing data: Provable guarantees with nonconvexity
{'venue': 'Annals of Statistics 2012, Vol. 40, No. 3, 1637-1664', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}