Abstract-Pattern klassificeringssystem används ofta i kontradiktoriska applikationer, som biometrisk autentisering, nätverksintrång upptäckt, och spamfiltrering, där data kan avsiktligt manipuleras av människor för att undergräva deras funktion. Eftersom detta kontradiktoriska scenario inte beaktas genom klassiska designmetoder, kan system för mönsterklassificering uppvisa sårbarheter, vars utnyttjande allvarligt kan påverka deras prestanda och följaktligen begränsa deras praktiska nytta. Att utvidga mönsterklassificeringsteorin och designmetoderna till kontradiktoriska miljöer är därför en ny och mycket relevant forskningsinriktning, som ännu inte har följts på ett systematiskt sätt. I detta dokument tar vi upp en av de viktigaste öppna frågorna: att vid utformningsfasen utvärdera säkerheten hos mönsterklassare, nämligen den försämring av prestandan som de kan utsättas för under drift. Vi föreslår en ram för empirisk utvärdering av klassificeringssäkerhet som formaliserar och generaliserar de huvudidéer som föreslås i litteraturen, och ger exempel på dess användning i tre verkliga tillämpningar. Rapporterade resultat visar att säkerhetsutvärdering kan ge en mer fullständig förståelse för klassificeringens beteende i kontradiktoriska miljöer och leda till bättre designval.
Biggio och al. studerade klassificeringar i kontradiktoriska inställningar och skisserade ett ramverk som säkrar dem REF.
Security Evaluation of Pattern Classifiers under Attack
{'venue': 'IEEE Transactions on Knowledge and Data Engineering, 26(4):984-996, April 2014', 'journal': None, 'mag_field_of_study': ['Mathematics', 'Computer Science']}