Medlemmerne, som skulle blive til ZZ Top, kom fra forskellige texanske bands, hvor de mest nævneværdige er "Moving Sidewalks" med Billy Gibbons og "American Blues" med Dusty Hill og Frank Beard. I 1969 gik de rivaliserende grupper i opløsning, og de tre musikere slog sig sammen. I første omgang havde Gibbons inviteret Beard til, at være med i en blues rock-kvartet. Da de også manglede en bassist foreslog Beard sin ven Joe "Dusty" Hill fra et tidligere band, og det spirende band forblev en trio. Oprindelsen til bandets navn var i mange år officielt ukendt, men der opstod flere forskellige teorier: en sammensmeltning af to populære mærker inden for cigaretpapir, nemlig "Zig-Zag" og "Top"; en hyldest til blues-legenden Z.Z. Hill, samt at Billy Gibbons skulle havde set de to ord på en forfalden reklametavle. Den korrekte oprindelse – som er fortalt og skrevet af Gibbons i hans bog "Rock + Roll Gearhead" – er navnet afledt af bluesguitaristen B.B. King. Bandet ville oprindeligt kalde sig Z.Z. King, men de synes det lå for tæt opad af deres idol. Derfor tænkte de at "King" og var på "Toppen", og derfor besluttede sig for for ZZ Top. ZZ Top spillede sin første koncert i februar 1970 og turnerede derefter – mere eller mindre konstant – rundt i Texas de følgende år. De underskrev desuden en kontrakt med London Records, og deres første to album, ZZ Top's First Album og Rio Grande Mud, blev indspillet i Robin Hood-studiet i Tyler, Texas. I 1973 begyndte ZZ Top af indspille sammen med pladeproduceren Terry Manning hos Ardent Studioes i Memphis. Dette resulterede i deres tredje album, Tres Hombres, som blev det første album som solgte over en million eksemplarer, hvilket var med til at give bandet bred anerkendelse. Albummet indeholder bandets klassiske hit "La Grange", som handler om et bordel der i dag tale blev kaldt "The Chicken Ranch" (kyllingefarmen). Bordellet lå i byen La Grange, Texas, hvorfra sangens titel kommer. Albummet indeholdt også sangene "Waitin' for the Bus" og dens opfølger "Jesus Just Left Chicago", som begge blev både fans og radiostationers favorithit. I september 1974 tiltrak ZZ Top titusindvis af tilskuere til en koncert på "Labor Day Stadium" i Austin, som blev døbt "ZZ Top’s First Annual Texas-Size Rompin’ Stompin’ Barndance and Bar-B-Q". Foruden ZZ Top optrådte Santana, Joe Cocker og Bad Company. Et foto af publikum fra deres koncert i 1974 blev brugt som album-booklet på deres fjerde album, Fandango!, som blev udgivet i 1975. Albummet var en blanding af studie- og liveoptagelser, og et af de nye numre på albummet var nummeret "Tush", som blev et kæmpehit. Albummet indeholdt også nummeret "Heard It on the X", som var en hyldest til de mexicanske "border-blaster" radiostationer (radiostationer der sendte meget kraftige signaler, som kunne "overdøve" de amerikanske). Bandet forsatte med turnere rundt i 1976, hvor de også udgav deres femte album, Tejas samt singlen "Arrested for Driving While Blind". Efter seks år med løbende koncerter og albumudgivelser røg ZZ Top i 1977 ind i en uplanlagt pause. Deres manager og producer Bill Ham brugte tiden på at få lavet en aftale med pladeselskabet London Records, så de fortsat havde rettighederne til deres bagkatalog efter skiftet til deres nye pladeselskab, Warner Bros. ZZ Top genoptog i 1979 deres koncertturne og indspillede et nyt album, Deguello, med deres nye pladeselskab. Uafhængigt at hinanden havde Hill og Gibbons begge tillagt sig deres nu berømte lange skæg. Albummet viste en forbavsende minimalistisk tilgang til den ellers så velkendte ZZ Top-lyd. Sammen med Gibbons' rene guitarlyd og Hill og Beards rytmesektion var Deguello præget af saxofonmelodier fra Gibbons. Albummet indeholdt det berømte hit "Cheap Sunglasses" samt en coverversion af Isaac Hayes' "I Thank You".  1980`erne Deres hidtil bedst sælgende album er Eliminator fra 1983 som solgte så godt, at udgivelsen for efterfølgeren Afterburner, som oprindeligt skulle have været udgivet i 1984, blev udsat i et år.  Eliminator har solgt mere end 10 mill. eksemplarer mens Afterburner har solgt over 3 mill. eksemplarer. Recycler solgte mere end 1 million albums. I 1990 havde ZZ Top solgt mere end 50 mill. albums verden over.  1990`erne Albummet Recycler blev udgivet i 1990 og meget passende for titlen var musikken en blanding af de to seneste albums. Warner Bros.- dagene var ovre og bandet skiftede til RCA/BMG. Herefter fulgte "Antenna" i 1994 som solgte ganske hæderligt, ligeså "Rhytmeen", mens "XXX" skuffede salgsmæssigt.  2003 Sidste album fra ZZ Top med pladeselskabet RCA/BMG blev Mescalero fra 2003 og dette blev noget af et flop. I U.S.A solgte albummet omkring 112.000 stk. ( lidt over hundrede tusinde ).  2012- Den 5. juli 2012 udgav bandet 4 sange på en EP kaldet Texicali. Denne EP var og er kun tilgængelig på internettet som download og kan ikke købes som CD i butikkerne. Disse 4 sange var en appetitvækker til deres album La Futura som kom i butikkerne 11. september 2012. Køber man albummet på internetsiden bestbuy får man to bonustracks "Drive By Lover" og "Thresshold Of A Breakdown". I 2011 kunne man på internettet høre sangen Flying High som ligeledes kom med på albummet, men i en lidt anden version. Billy Gibbons har i øvrigt udtalt at det ikke er usansyneligt at der med tiden kommer lidt mere musik fra La Futura-sessionerne i studiet.