Vi beskriver och utvärderar experimentellt en metod för att gruppera ord efter deras fördelning i särskilda syntaktiska sammanhang. Ord representeras av den relativa frekvensfördelningen i sammanhang där de förekommer, och relativ entropi mellan dessa fördelningar används som likhetsmått för klusterbildning. Kluster representeras av genomsnittliga kontextfördelningar som härleds från de givna orden beroende på deras sannolikhet för klustermedlemskap. I många fall kan klungorna betraktas som kodning av grova meningsskillnader. Deterministisk glödgning används för att hitta lägsta distorsion uppsättningar av kluster: när glödgningsparametern ökar, blir befintliga kluster instabila och subdelning, vilket ger en hierarkisk "mjuk" kluster av data. Kluster används som grund för klassmodeller för ordsammankomst, och de modeller som utvärderas med avseende på hållna testdata.
I Distributionell klustring av ord, ord representeras som distributioner över kategorier av dokument där de visas REF.
Distributional Clustering Of English Words
{'venue': 'Annual Meeting Of The Association For Computational Linguistics', 'journal': None, 'mag_field_of_study': ['Computer Science']}