Jacob Rahbek fik med sin 1. hustru Johanne Riis, sønnen Knud Lyne Rahbek (1760-1830), senere etatsråd, professor ved Københavns Universitet og medlem af Det Kongelige Teaters direktion. Han var opsat at give sønnen en grundig opdragelse. Knud Lyne Rahbek fik sin første huslærer, da han var tre år gammel og begyndte at lære latin i femårsalderen. Som niårig fik Rahbek Jens Lorenz Jensen Adzer (1737-1798) som huslærer. Han var en streng herre og låste bl.a. barnet inde på sit værelse hver aften. Med sin 3. hustru fik han datteren Agnete Sophie Rahbek (døbt 24. november 1770 - 11. december 1837 i København), gift med arkitekt og overbygningsdirektør Christian Frederik Hansen (1756-1845), og den senere præst og oversætter Matthias Rahbek (1780-1846). En anden datter af dette ægteskab var Jacobine Rahbek (31. december 1777 i København - 7. januar 1855 i Meldorf), som var gift med landfoged J.C.F. Heinzelmann (1762-1830).