I det här dokumentet presenterar vi en ny Bayesiansk nätarbetsmodell för klassificering som kombinerar de naiva Bayes (NB} klassificerare och fi nite blandning (FM} klassificerare. Den resulterande klassificeringen syftar till att lätta på de starka angrepp som de två komponentmodellerna bygger på, i ett försök att förbättra deras klassificeringsprestanda, både när det gäller noggrannhet och kalibrering av de uppskattade sannolikheterna. Den föreslagna klassifiern erhålls genom att lägga till en finit blandningsmodell på uppsättningen funktionsvariabler i ett naivt Bayes modeL Vi presenterar experimentella resultat som jämför den prediktiva prestandan på verkliga datauppsättningar för den nya klassifiern med den prediktiva prestandan för NB-klassifiern och FM-klassifiern. vara lämpliga för klassificeringsändamål och visa att det i många fall kan resultera i en modell med sämre prediktiv prestanda än NB-klassiatorn. Dessa resultat kan intuitivt förstås genom att notera att lära sig en BN-modell för klassificering motsvarar att lösa ett svårare problem än det vi behöver lösa, nämligen modellering av den gemensamma sannolikhetsfördelningen av alla domänvariabler, snarare än modellering av den villkorliga fördelningen av en viss klassvariabel med tanke på en uppsättning särdragsvariabler. En del av skälet till NB-modellens motståndskraft ligger i valet av den åtgärd som har vidtagits för att bedöma dess perfor mance, nämligen klassificeringsackumulationen eller noll-one-förlusten, definierad som andelen fall som är korrekt klassificerade enligt modellen (vanligtvis mätt över en testuppsättning eller korsvaliderad}. De senaste resultaten [9, 16] visar att en klassificeringsgrundare kan uppnå hög klassificeringsnoggrannhet även när dess sannolikhetsuppskattningar är dåligt kalibrerade.1 I ett beslutsteoretiskt ramverk är sannolikheten för att modellens resultat är nödvändiga för att beräkna den förväntade felklassificeringskostnaden (dvs. den förväntade nyttan) baserat på vilken beslutsfattaren skulle se den optimala klassificeringen. Dåligt kalibrerade uppskattningar av prob förmåga kan leda till suboptimala beslut. Detta är inte ett problem när felklassificeringskostnaden (eller bruksfunktionen) är känd och fast. Under många omständigheter är dock kostnaderna för felklassificeringen okända eller ojämlika, dvs. fallberoende.2 Under dessa omständigheter kan kalibreringen av klassificeringens sannolikhetsuppskattningar vara lika viktig som klassificeringsnoggrannheten för bedömningen av dess prestanda. I detta dokument ger vi ytterligare bevis för att NB-modellen är dåligt kalibrerad, och vi presenterar en ny Bayesian nätverksmodell för klassificering som com1Sannolikheten p av en given klassificering resultat c anses perfekt kalibrerade när fall tilldelas en prob förmåga p avkastning resultat c, faktiskt ger detta resultat en bråkdel p av tiden. 2Typiska klassificeringsproblem med ojämlika felklassificeringskostnader är upptäckt av bedrägerier [12] och datorstödd medicinsk diagnos.
För att ge två exempel kombinerar Monti och Cooper REF ändlig blandningsmodell med naiv Bayes clasfier.
A Bayesian Network Classifier that Combines a Finite Mixture Model and a Naive Bayes Model
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}