I midten af det 12. århundrede, før kirken blev opført, havde Tempelridderne i London mødt på et sted i High Holborn i en struktur oprindeligt etableret af Hugues de Payens (stedet havde historisk været placeringen for et romersk tempel i Londinium, nu kendt som London).  På grund af den hurtige vækst i ordenen i 1160ø'erne, blev stedet for begrænsende, og ordren købte det nuværende sted for at etablere et større klosterkompleks som deres hovedkvarter i England. Udover kirken indeholdt den nye område oprindeligt boliger, militære træningsfaciliteter og rekreative grunde til de militære brødre og nybegyndere, som ikke fik lov til at gå ind i byen uden tilladelse fra tempelmesteren.  Kirkebygningen består af to separate sektioner:  Den oprindelige cirkulære kirkebygning, kaldet Rundkirken, der nu fungerer som skib, og en senere rektangulær sektion ved siden af østsiden, bygget cirka et halvt århundrede senere, og danner koret.  Efter korsfarernes erobring af Jerusalem i 1099 blev Klippehelligdommen givet til Augustinerne, som forvandlede den til en kirke (mens Al-Aqsa-moskeen blev et kongeligt palads). Fordi Klippehelligdommen var Salomons Tempel, opretholdt tempelridderne deres hovedkvarter i Al-Aqsa-moskeen ved siden af Helligdommen i meget af det 12. århundrede. Templum Domini, som de kaldte Kilppehelligdommen,  og Gravkirken, som Tempelkirken i London var baseret på, blev den arkitektoniske model for tempelriddernes rundkirker i hele Europa.  Rundkirken er 55 feet (17 m) i diameter, og indeholder en cirkel af de tidligst kendte overlevende, fritstående Purbeck Marmorsøjler. Det er sandsynligt, at væggene og de groteske hoveder oprindeligt var malet i farver.  Kirken blev indviet den 10. februar 1185 af Heraclius, den latinske patriark i Jerusalem. Det antages, at kong Henrik 2. af England (1154-1189) var til stede ved indvielsen.  1185-1307 Tempelridderordenen var meget magtfuld i England, hvor tempelmesteren sad i parlamentet som primus baro (den første baron i rækken inden for Riget). Området omkring Tempelkirken blev jævnligt brugt som en bolig af konger og repræsentanter for Paven.  Tempelkirken tjente også som en tidlig sikkerhedsbank, undertiden i modsætning til kronens forsøg på at udnytte midlerne fra adelen, der havde betroet deres rigdom der. Flere historiske kommentatorer mener, at det var Tempelriddernes internationale og uafhængige netværker samt dens enorme rigdom, som gav anledning til stor jalousi i mange sekulære kongeriger, dern ledte til Ordenens undergang.