Hvad blev Arlington House brugt til af Unionens styrker under den amerikanske borgerkrig? 


Unionsstyrker besatte Arlington House inden der var gået en måned efter Fort Sumter og brugte det som hovedkvarter for officerer der havde opsyn med nogle af de forter som var en del af forsvaret af Washington. Mange af familiens resterende ejendele blev flyttet til den gamle patentkontorsbygning for sikker opbevaring.
Ikke liden fortjeneste af sin tid indlagde Guldberg sig som oversætter af romerske klassikere. 1801 udgav han et hæfte Udvalgte og efter vore Sæder omarbejdede Stykker af Martial, 1803 udkom i 2 bind hans oversættelse af Tibullus' Elegier, 1805 ligeledes i 2 bind Terents' skuespil med anmærkninger og 1812-13 Plautus i 4 bind.