Gaboriau beskæftigede sig med flere ting i livet: Kontorist hos en jurist, soldat i Afrika og staldmester. Han var ansat i kavaleriet i syv år, men opsagde sin kontrakt for at komme til Paris og søge lykken. Her kom han til at skrive kronikker inden han blev sekretær for Paul Féval, der fik ham gjort interesseret i journalistikken. Hans første roman L'Affaire Lerouge, som han først, uden succes, publicerede som føljeton i 1863, viste sig at blive en succes i 1866. I romanen møder man for første gang vagten Lecoq, der går hen og bliver en berømt detektiv, der løser mysterierne ved hjælp af sine nærmeste overnaturlige deduktive evner. Lecoq blev senere en væsentlig inspirationskilde for Conan Doyle. Men til forskel fra Sherlock Holmes er Lecoqs metoder mere realistiske og ligger tæt op ad udviklingen i tidens kriminalvidenskab. Intrigen i Gaboriaus kriminalromaner finder sted i miljøer, som han beskriver på en nærmest naturalistisk facon. Denne metode har inspireret kriminalromanforfattere lige siden. Efter succes'en med L'Affaire Lerouge, arbejdede Gaboriau som føljetonforfatter på Le Petit Journal. I 1872 skrev han sammen med Jules-Émile-Baptiste Holstein et teaterstykke på baggrund af L'Affaire Lerouge. Hans roman Monsieur Lecoq (1869) blev overført til det hvide lærred af Maurice Tourneur i 1914. Også på fjernsynet er hans romaner blevet vist i en canadisk tv-serie i 1964-65.