Langkjær voksede op i Nykøbing Falster som søn af overlærer Jens Langkjær (født Petersen) fra Gauerslund på Vejle-egnen og Johanne Elisabeth Hansen fra Fejø. 1904 blev han student fra Nykøbing Katedralskole og flyttede samme år til København for at læse jura på Københavns Universitet.