I standard Convolutional Neural Networks (CNN) är de mottagliga fälten av artificiella neuroner i varje lager utformade för att dela samma storlek. Det är välkänt i neurovetenskapsgemenskapen att den mottagliga fältstorleken hos synkortikala neuroner moduleras av stimulansen, som sällan har beaktats vid uppbyggnaden av CNN. Vi föreslår en dynamisk urvalsmekanism i CNN som gör det möjligt för varje neuron att adaptivt justera sin mottagliga fältstorlek baserat på flera skalor av indata. En byggsten kallad Selektiv Kernel (SK) enhet är utformad, där flera grenar med olika kärnstorlekar sammansmältes med softmax uppmärksamhet som styrs av informationen i dessa grenar. Olika uppmärksamhet på dessa grenar ger olika storlekar av de effektiva mottagliga fälten av neuroner i fusionslagret. Flera SK-enheter staplas till ett djupt nätverk som kallas Selective Kernel Networks (SKNets). På ImageNet och CIFAR-riktmärkena visar vi empiriskt att SKNet överträffar de befintliga toppmoderna arkitekturerna med lägre modellkomplexitet. Detaljerade analyser visar att neuronerna i SKNet kan fånga målobjekt med olika skalor, vilket verifierar neuronernas förmåga att anpassa sina mottagliga fältstorlekar efter inmatningen. Kod och modeller finns på https://github.com/implus/SKNet.
Löjtnant m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m för m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m. REF insåg att konvolutionskärnans storlek av visuella neuroner sällan beaktas när man konstruerar CNN.
Selective Kernel Networks
{'venue': '2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)', 'journal': '2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)', 'mag_field_of_study': ['Computer Science']}