Korsentropiförlust tillsammans med softmax är utan tvekan en av de vanligaste övervakningskomponenterna i konvolutionella neurala nätverk (CNN). Trots dess enkelhet, popularitet och utmärkta prestanda, uppmuntrar komponenten inte uttryckligen diskriminerande lärande av funktioner. I detta dokument föreslår vi en generaliserad stor marginal softmax (L-Softmax) förlust som uttryckligen uppmuntrar intra-klass kompaktitet och mellanklass separerbarhet mellan inlärda funktioner. Dessutom kan L-Softmax inte bara justera den önskade marginalen utan också undvika övermontering. Vi visar också att L-Softmax förlust kan optimeras genom typiska stokastisk lutning nedstigning. Omfattande experiment på fyra referensdatauppsättningar visar att de djupt lärda funktionerna med L-softmax förlust blir mer diskriminerande, vilket avsevärt ökar prestandan på en mängd olika visuella klassificerings- och verifieringsuppgifter.
Dessutom föreslås den stora marginalen softmax förlust (L-Softmax) REF ) för att generalisera softmax förlust till stor marginal softmax, vilket leder till större vinkel separerbarhet mellan inlärda funktioner.
Large-Margin Softmax Loss for Convolutional Neural Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}