I det gamle Grækenland var gymnasion det sted, hvor den mandlige ungdom modtog legemlig og i anden række åndelig uddannelse. De unge mænd trænede nøgne, hvad der forklarer oprindelsen til gymnasium, nemlig af gymnázesthai (= "at træne nøgen"). Platons akademi i Athen var et græsk gymnasium. I middelalderen kaldtes de første universiteter i Italien til tider gymnasium eller academia, men betegnelsen universitet blev snart den almindelige. I Tyskland blev i sammenhæng med reformationen oprettet gymnasier, der var en form for højere læreanstalter. De udviklede sig til gymnasia academica, der tilnærmelsesvis fungerede som universiteter, og flere af dem blev senere til egentlige universiteter. Med tiden fik gymnasier den moderne betydning: læreanstalter, der har ret til at dimittere elever til universiteter. Foruden i Tyskland kendes betegnelsen i Østrig, Rusland, Danmark, Norge og Sverige. I Danmark oprettedes der latinskoler efter reformationen i de fleste købstæder. De første skoler ved navn gymnasium grundlagdes i 1529 i Malmø (nedlagt 1537) og i Lund 1620 (nedlagt 1668). I Odense blev der oprettet et gymnasium i 1621, som blev lagt sammen med Odense Katedralskole i 1802. I Danmark blev latinskolerne (også kaldt: lærde skoler) i 1903 til gymnasier. Nogle af dem var eller blev statsejede og blev derefter kaldt statsskoler. Nogle af dem skiftede navn, da ejerskabet overgik til amterne 1. januar 1986 (fx Frederiksborg Statsskole til Frederiksborg Gymnasium og HF), og andre beholdt det gamle navn (fx Horsens Statsskole). Da amterne blev nedlagt i 2007, overgik de amtsejede gymnasier til at være selvejende institutioner. I Danmark er der pr. 2014 168 institutioner, der udbyder stx, hf eller IB-eksamen.