Den mest frekventa och dominerande domänsinnet spelar en viktig roll i debatten om "ordsensedisambition". Denna diskussion är dock fördomsfull av det sätt på vilket man bygger en vettig korpora. I denna rapport hävdar vi att den nuvarande sense-taggade corpora försummar sällsynta sinnen och sammanhang och därför inte representerar en bra corpus för att träna och testa ord-sensedisambiguation. Vi definierade tre kvalitetskriterier för sense-taggade corpora och en metod för att uppfylla dessa kriterier med minimal ansträngning. Med denna metod byggde vi en holländsk sense-taggad corpus som försökte uppfylla dessa kriterier. Corpus utvärderades genom att härleda ord-sensedisambigeringssystem och testa dessa på olika undergrupper av corpus på olika sätt. Våra systems prestanda och kvaliteten på de härledda uppgifterna är lika med toppmoderna engelska system och korpora. Slutligen använde vi systemen för att skapa en holländsk corpus på över 47 miljoner sense-taggade tokens spridda över ett stort antal genrer, domäner och användningar av holländska. Resultaten av projektet kan laddas ner fritt från projektets webbplats. Det nederländskaSemCor-projektet var ett medelstort investeringssubventionsprojekt för NWO Humanities med en subventionsperiod från september 2009 till augusti 2012. Vi vill tacka NWO för att ha gjort det möjligt att genomföra projektet. Word Sense Disambiguation (WSD) forskning under det senaste årtiondet visade ett antal viktiga insikter (Agirre och Edmonds, 2006): 1. utvärderingsresultat är starkt beroende av corpus och de lexikon som används, 2. den mest frekventa härledd från SemCor (Miller et al., 1993 ) är en stark baslinje som inte är lätt att slå i utvärderingar som SensEval eller SemEval och 3. dominerande sinnen i specifika domäner ger de bästa WSD resultat i särklass (McCarthy et al., 2007). Av dessa observationer kan man dra slutsatsen att vi behöver samla stora uppsättningar av (sens-taggade) domän-och förmodligen genre-specifika corpora för att bestämma dominerande sinnen. Att få fram tillräckligt med data utan att ignorera sällsynta eller sällan förekommande sinnen kräver dock en enorm ansträngning. Manuellt taggade data är fortfarande mycket glesa och utvärderingsresultaten varierar från uppgift till uppgift, vilket gör att vi fortfarande inte vet var vi står på WSD-området. Detta väcker frågan: hur ska den idealiska sense-taggade corpus för WSD se ut, för att möjliggöra upptäckt av någon mening i någon typ av corpus? Befintliga sense-taggade corpora har olika designegenskaper som gör dem bra korpora i vissa aspekter men inte i andra. I detta dokument kommer vi att definiera kvalitetskriterier för sense-taggade corpora och beskriva en ny metod för att bygga en storskalig sense-taggade holländska corpus som uppfyller dessa kriterier med så lite manuell ansträngning som möjligt. Vi hävdar att en idealisk känsla-taggad corpus bör balanseras för de olika sinnena, för de olika sammanhangen och bör ge information om sensefrekvenser, helst över ett brett spektrum av domäner och genrer. I projektet DutchSemCor 1 försökte vi uppfylla dessa tre kriterier genom att använda stora corpora som täcker ett brett spektrum av språkanvändning, inklusive tal- och skriftspråk, flamländska och nederländska standardspråk och dialekter, och många genrer och domäner. Dessutom taggade vi dessa corpora genom en blandning av manuella och automatiska annoteringar och val av ord tokens. Vi siktade först på en corpus som representerar betydelsen av en befintlig lexikon inklusive tillräckliga exempel för sällsynta sinnen. För det andra utvidgade vi denna corpus till att få en bredare representation av sammanhang när det behövdes, och slutligen, för att få en vettig fördelning, kommenterades den fullständiga corpus automatiskt tillämpa tre WSD-system. De resulterande kommentarerna (både manuella och automatiska) testades för alla tre kriterierna. Till följd av detta 1 http://www2.let.vu.nl/oz/cltl/dutchsemcor/ 710
Som svar på sense-skewed dataset skapade REF en balanserad känsla corpus i DutchSemCor-projektet där varje mening får ett lika stort antal exempel.
DutchSemCor: in quest of the ideal sense-tagged corpus
{'venue': 'RANLP', 'journal': None, 'mag_field_of_study': ['Computer Science']}