Guillou blev født i Angers. Efter sine første studier i klaver- og orgelspil blev han organist ved kirken St. Serge i Angers i en alder af 12 år. Han studerede derefter ved Paris Conservatoire under Marcel Dupré, Maurice Duruflé og Olivier Messiaen. I 1955 fik han stillingen som professor i orgel og komposition ved Institut for kirkemusik i Lissabon. I 1958 flyttede han til Berlin, hvor han boede i de følgende fem år. Her komponerede og uropførte han sine første værker. I 1963 vendte han tilbage til Paris efter at være blevet udnævnt til Titulær Organist ved kirken Saint Eustache som efterfølger for André Marchal. Han blev udnævnt som Organist Emeritus ved St. Eustache i september 2014. Guillou afsluttede sine 52 år som organist ved kirken i marts 2015. Han har et verdensomspændende ry som koncertorganist og improvisator. Derudover har han ofte fungeret som pianist; for eksempel udøvede han de engelske og franske uropførelser af Julius Reubkes oversete klaversonate i b-mol. Guillous engagement i orgelbygning førte til samarbejde med flere orgelbyggere og opførelse af nye orgler i l'alpe d'Huez( F) (1978, Kleuker), i Sang d'Oiseau kirke i Bruxelles (1981, Kleuker), i Zürichs Tonhalle (1988, Kleuker-Steinmeyer) på Konservatoriet i Napoli (2006, Tamburini-Zanin) i Auditorio de Tenerife (2005, Blancafort) og senest i San Antonio dei Portoghesi kirken i Rom (2008, Mascioni) og i Katedralen i Leon i Spanien (2013, Klais). Han komponerede over 90 værker – til orgel-, kammer-og orkestermusik – samt mange transskriptioner for orgel, primært offentliggjort af Schott-Musik. Hertil kommer, at han har udgivet mere end 100 andre indspilninger, herunder de samlede orgelværker af Johann Sebastian Bach, César Franck og Robert Schumann. Desuden en række historiske improvisationer (f.eks. Visioner Cosmiques, 1969, eller Jeux d'orgue, 1970, begge genindspillet i 2010 af Universal-Decca), såvel som de fleste af hans egne kompositioner for orgel en serie af 7 Cd'er (2010) for det Universelle - Decca records label. Fra 1970-2005 underviste Guillou i orgelspil og improvisation ved det årlige Zürcher Internationale Meisterkurse. Siden 2007 har disse mesterklasser været afholdt på St. Eustache i Paris, Frankrig. Blandt hans tidligere elever er Bernhard Thomsen, Francesco Filidei, Yanka Hekimova, Livia Mazzanti, Leonid Karev, Zsuzsa Elekes og Jean-Baptiste Monnot. I juli 2015 han blev udnævnt til æresprofessor ved Saarer Hochschule für Musik.