Val av funktioner används inom många tillämpningsområden som är relevanta för experter och intelligenta system, såsom datautvinning och maskininlärning, bildbehandling, anomalidetektering, bioinformatik och behandling av naturligt språk. Feature val baserat på informationsteori är ett populärt tillvägagångssätt på grund av dess beräkningseffektivitet, skalbarhet i termer av dataset dimensionalitet, och oberoende från klassificeringen. Gemensamma nackdelar med detta tillvägagångssätt är bristen på information om samspelet mellan funktionerna och klassificeringen, och valet av överflödiga och irrelevanta egenskaper. Det senare beror på begränsningarna i de använda målfunktionerna som leder till överskattning av funktionens betydelse. För att ta itu med detta problem införs i denna artikel två nya icke-linjära urvalsmetoder, nämligen gemensam ömsesidig informationsmaximering (JMIM) och normaliserad gemensam ömsesidig informationsmaximering (NJMIM); båda dessa metoder använder ömsesidig information och kriteriet "maximum of the minimum", vilket lindrar problemet med överskattning av funktionens betydelse, vilket har visats både teoretiskt och experimentellt. De föreslagna metoderna jämförs med elva allmänt tillgängliga dataset med fem konkurrerande metoder. Resultaten visar att JMIM-metoden överträffar de övriga metoderna på de flesta testade offentliga datauppsättningar, vilket minskar det relativa genomsnittliga klassificeringsfelet med nästan 6 % jämfört med nästa metod med bästa resultat. Resultatens statistiska signifikans bekräftas av ANOVA-testet. Dessutom ger denna metod den bästa avvägningen mellan noggrannhet och stabilitet.
Dessutom Bennasar et al. I Ref föreslås en metod för urval av funktioner som kallas gemensam ömsesidig informationsmaximering (JMIM), som är den målfunktion som bygger på gemensam ömsesidig information och metoden "maximum of the minimum".
Feature selection using Joint Mutual Information Maximisation
{'venue': 'Expert Syst. Appl.', 'journal': 'Expert Syst. Appl.', 'mag_field_of_study': ['Computer Science']}