Befintliga språkmodeller som n-gram för programvarukod lyckas ofta inte fånga ett långt sammanhang där beroende kodelement sprider sig långt ifrån varandra. I detta dokument föreslår vi ett nytt tillvägagångssätt för att bygga en språkmodell för programvarukod för att ta itu med just denna fråga. Vår språkmodell, delvis inspirerad av mänskligt minne, bygger på den kraftfulla djupinlärning-baserade Long Term Memory arkitektur som är kapabel att lära sig långsiktiga beroenden som förekommer ofta i programvara. Resultaten från vår egen utvärdering av en corpus av Java-projekt har visat hur effektiv vår språkmodell är. Detta arbete bidrar till att förverkliga vår vision för DeepSoft, en end-to-end, allmän djupinlärning baserad ram för modellering av programvara och dess utvecklingsprocess.
Vårt senaste arbete REF använde LSTM för att bygga en språkmodell för kod och visade förbättringen av denna modell jämfört med den som använder RNN.
A deep language model for software code
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}