Faits: A. O._, né en 1960, travaillait en qualité de maçon pour le compte de l'entreprise P._. Souffrant de douleurs lombaires, il a interrompu son activité lucrative le 25 octobre 2003 et a subi une intervention chirurgicale le 6 janvier 2004 (hémilaminectomie L5-S1 gauche pour cure de hernie discale paramédiane L5-S1 gauche, luxée vers le bas). Il n'a pas été en mesure par le suite de reprendre son activité habituelle. Le 4 mai 2004, O._ a déposé une demande de prestations de l'assurance-invalidité tendant au reclassement dans une nouvelle profession. L'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'office AI) a recueilli différents renseignements médicaux auprès des médecins consultés par l'assuré (rapports des docteurs C._ du 9 juin 2004, J._ du 7 juillet 2004, A._ des 4 novembre 2004, 4 mars 2005 et 19 juin 2006, N._ du 29 mai 2006) et joint au dossier les rapports établis à l'issue de divers stages professionnels auxquels l'assuré a participé (du 18 avril au 13 mai 2005 chez E._; du 23 mai au 24 juin 2005 au Centre X._; du 24 avril au 1er mai 2006 auprès de Z._). Par décisions du 4 avril 2006, confirmées sur opposition le 29 octobre 2007, l'office AI a, d'une part, octroyé à l'assuré une mesure d'orientation professionnelle et un soutien dans ses recherches d'emploi et, d'autre part, refusé de lui allouer une rente d'invalidité. A ce titre, il a considéré que l'assuré disposait d'une capacité résiduelle de travail entière dans une activité adaptée, de sorte qu'après comparaison des revenus avec et sans invalidité, il en résultait une incapacité de gain de 29 %, insuffisante pour donner droit à une telle prestation. B. Par jugement du 12 juin 2008, le Tribunal des assurances du canton de Vaud a, d'une part, rejeté le recours formé par l'assuré contre la décision sur opposition du 29 octobre 2007 en tant qu'il portait sur la question du droit à la rente et, d'autre part, retourné le dossier à l'office AI pour qu'il examine l'opportunité de l'application de mesures d'ordre professionnel. C. O._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation. Il conclut, principalement, au renvoi de la cause à l'office AI, respectivement au Tribunal des assurances du canton de Vaud pour qu'ils confient la réalisation d'une expertise pluridisciplinaire à la Clinique L._ et, subsidiairement, à l'octroi d'une rente d'invalidité. L'office AI conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer. 