Abstrakt. Omärkta dokumentsamlingar blir allt vanligare och tillgängliga. Med ord som funktioner, textdokument ofta representeras som högdimensionella och gles vektorer-ett par tusen dimensioner och en gleshet på 95 till 99% är typiskt. I den här artikeln studerar vi en viss sfärisk k-means algoritm för att samla sådana dokumentvektorer. Algoritmen outputs k separera kluster var och en med ett koncept vektor som är centroiden av kluster normaliseras för att ha enhet Euclidean norm. Som vårt första bidrag visar vi empiriskt att på grund av textdatans höga dimensionalitet och gleshet har de kluster som algoritmen producerar ett visst "fractalliknande" och "självliknande" beteende. Som vårt andra bidrag, introducerar vi koncept sönderdelningar för att approximera matrisen av dokumentvektorer; dessa sönderdelningar erhålls genom att ta den minsta-kvarts approximation till den linjära subrymden spänns av alla konceptvektorer. Vi konstaterar empiriskt att approximationsfelen i begreppsnedbrytningarna är nära de bästa möjliga, nämligen trunkerade singular value sönderdelningar. Som vårt tredje bidrag visar vi att konceptet vektorer är lokaliserade i ordet utrymme, är glesa, och tenderar till ortonormalitet. Däremot är de unika vektorerna globala i ordet utrymme och är täta. Icke desto mindre observerar vi det överraskande faktum att de linjära subrymder som spänns över av konceptvektorerna och de ledande enskilda vektorerna är ganska nära i betydelsen små huvudvinklar mellan dem. Sammanfattningsvis utgör de konceptvektorer som produceras av den sfäriska k-means-algoritmen en kraftfull gles och lokaliserad "basis" för textdatauppsättningar.
Dhillon och Modha REF införde sfäriska k-medel för att samla in glesa textdata.
Concept Decompositions for Large Sparse Text Data Using Clustering
{'venue': 'Machine Learning', 'journal': 'Machine Learning', 'mag_field_of_study': ['Computer Science', 'Mathematics']}