Initiativtagerne søgte koncession i foråret 1882, og allerede 12. maj samme år var forslaget gået igennem Rigsdagen, måske fordi der ikke blev søgt statstilskud ud over, at staten betalte halvdelen af ekspropriationsomkostningerne. Koncessionen blev udstedt 9. august 1882, og anlægget blev påbegyndt i oktober samme år. Havnesporet i Juelsminde blev fuldført i 1896.  Bevarede stationsbygninger Banens bygninger var tegnet af ingeniør Clausen, Horsens, og bygget af tømrermester Nielsen, Rårup. De var beskedne og måtte i flere tilfælde udvides, men de fleste er bevaret. Til Juelsminde var der tegnet en pompøs bygning på størrelse med de største DSB-stationer, fordi man regnede med, at Juelsminde ville blive et stort trafikknudepunkt. Men man valgte at se tiden an og nøjes med "midlertidige" træbygninger, som kom til at fungere i hele banens levetid og først blev revet ned i 2001. Vesterby billetsalgssted er også revet ned.  Drift Selskabets aktiekapital var på 98.200 kr., men langt den største del af anlægsomkostningerne var finansieret med lån på i alt 928.000 kr. Banen indtjente så pæne overskud de første år, at lånene kunne indfries allerede i 1899. Fra 1930-31 var der underskud helt til banens nedlæggelse med undtagelse af 1944-47, selvom banen næsten fuldstændigt gik over fra dampdrift til motordrift. Skinnerne var i starten kraftige nok til, at alle statsbanernes godsvognstyper kunne køre på banen, men fra omkring år 1900, hvor godsvognene var blevet tungere, måtte der tit læsses om i Horsens.  Banen flyttede i 1901 sit hovedkontor fra Juelsminde til Horsens. S. Holmblad, der var driftsbestyrer fra 1897, blev også driftsbestyrer for Bryrupbanen, da den blev oprettet i 1899, og for Horsens-Odder Jernbane, da den blev oprettet i 1904. Endelig overtog han også posten i Tørringbanen i 1924, så alle fire privatbaner i Horsens havde samme driftsbestyrer. Nogenlunde samtidig begyndte de alle at bruge samme værksted. Juelsmindebanen deltog også i det fælles driftsselskab Horsens Privatbaner, der blev oprettet i 1951.  Strækninger hvor banetracéet er bevaret 1½ km af banens tracé er bevaret og tilgængeligt.