Faits: A. Par décision du 3 décembre 2007, l'Office d'exécution des peines (ci-après: OEP) a ordonné le maintien du placement de X._ en secteur d'isolement cellulaire à titre de sûreté aux Etablissements de la plaine d'Orbe (ci-après: EPO) pour une durée de trois mois. Par décision du 29 février 2008, l'OEP a prolongé ce placement en isolement cellulaire à titre de sûreté pour une nouvelle durée de trois mois. B. Par arrêt du 20 mars 2008, le Juge d'application des peines du canton de Vaud a rejeté les recours de X._ contre les deux décisions précitées. Cette décision repose, en bref, sur les éléments suivants. B.a Par arrêt du 17 octobre 2002, le Tribunal d'accusation du canton de Vaud a constaté l'irresponsabilité de X._ et ordonné son placement dans une institution pour toxicomanes au sens de l'art. 44 aCP, ainsi que l'application parallèle d'un traitement ambulatoire de sa schizophrénie comprenant la prescription d'un traitement neuroleptique. Par arrêt du 23 février 2005, le Tribunal d'accusation, saisi au terme d'une enquête ouverte pour violation de domicile, menaces, contrainte, voies de fait, violence ou menace contre les autorités ou les fonctionnaires et contravention à la LStup, a constaté l'échec du placement précité et ordonné l'internement de l'intéressé au sens de l'art. 43 ch. 1 al. 2 aCP, ainsi que l'application en parallèle d'un traitement de sa schizophrénie comprenant la prescription d'un médicament neuroleptique. Par arrêt du 16 juillet 2007, le Tribunal d'accusation, chargé du réexamen de la mesure d'internement selon l'art. 2 al. 2 des dispositions finales de la modification du CP, a ordonné que X._ soit soumis à un traitement institutionnel au sens de l'art. 59 al. 3 CP. B.b Les 16 juin et 25 octobre 2006, la Commission de libération a refusé la libération à l'essai de X._ et ordonné la poursuite de l'internement. Il ressort du dernier examen de cette Commission que, depuis le début de son internement, l'intéressé a fait l'objet de plusieurs sanctions disciplinaires, ainsi que de différents placements à l'unité psychiatrique des EPO, démontrant ainsi qu'il ne faisait pas preuve d'une évolution favorable. Selon le membre visiteur, il nécessitait un encadrement permanent pour poursuivre sa médication et éviter les décompensations. X._ a séjourné successivement en régime disciplinaire du 30 juin au 30 juillet 2006, en régime d'arrivants du 30 au 31 juillet 2006, en régime d'évaluation du 31 juillet 2006 au 25 septembre 2006, pour retourner en régime de sécurité renforcée afin de préparer un nouveau séjour à la division psychiatrique de la prison. Par décision du 3 juillet 2006, il s'est vu infliger une sanction de 30 jours d'arrêts disciplinaires pour avoir agressé un surveillant. Depuis le 25 septembre 2006, X._ est resté en régime d'isolement jusqu'au 9 février 2007, en régime disciplinaire jusqu'au 17 février, puis encore en régime d'isolement jusqu'au 8 mai 2007. Après un passage en unité psychiatrique entre le 8 mai et le 1er juin 2007, il est à nouveau en régime d'isolement depuis cette date. B.c X._ a été soumis à plusieurs expertises psychiatriques dont la dernière date du 20 décembre 2004. Les experts ont posé le diagnostic de schizophrénie paranoïde épisodique avec déficit progressif et syndrome de dépendance à des substances psychoactives multiples, actuellement abstinent en milieu protégé. Ils ont constaté qu'en l'absence de traitement, le risque de récidive était extrêmement élevé, que l'importance de la pathologie schizophrénique impliquait une vulnérabilité au stress considérable et que la prise en compte de cette vulnérabilité liée à la maladie était le meilleur garant d'une diminution du risque de la dangerosité à terme. Celle-ci passait par une acceptation de la pathologie et une confrontation à la réalité progressive avec évaluation des ressources résiduelles chez l'expertisé. Les médecins ont précisé qu'il était indispensable qu'un dispositif thérapeutique se construise autour de projets avec des étapes dont les objectifs seraient clairement établis et évalués à intervalles prévus et bien spécifiés, l'enjeu pour l'expertisé étant d'apprendre à vivre avec sa maladie en prenant en compte les limitations chroniques qu'elle impose. Ils ont estimé qu'une astreinte au traitement selon l'art. 43 aCP était une mesure indispensable pour fournir le cadre minimum permettant la réalisation des objectifs thérapeutiques. B.d Dans sa séance des 21 et 22 mars 2006, la Commission interdisciplinaire consultative concernant les délinquants nécessitant une prise en charge psychiatrique (ci-après: CIC) a conclu qu'il apparaissait primordial de maintenir un cadre solide susceptible de contenir et de traiter les troubles toujours présents et actifs chez X._ et ce d'autant que celui-ci n'en avait toujours qu'une conscience très partielle. Elle a estimé qu'en l'état ce cadre ne pouvait être réalisé ailleurs que dans l'environnement carcéral et que toute progression du régime de la mesure devait tenir compte en priorité de l'évolution psychopathologique de l'intéressé et des nécessités du soin. Elle l'a dès lors encouragé à poursuivre ses efforts, afin de rendre réalisable à terme son éventuel placement en milieu institutionnel. Dans sa séance du 12 avril 2007, la CIC a estimé que le cadre adéquat était à rechercher dans le maniement coordonné des ressources offertes tant par le régime de sécurité renforcée que par l'unité psychiatrique. Elle a réitéré ses recommandations à X._ d'accepter sans défaillance les traitements prescrits, qui seuls étaient susceptibles d'atténuer les effets de sa maladie. B.e Dans un bilan du 13 février 2008, le Service de médecine et psychiatrie pénitentiaires (ci-après: SMPP) a signalé que l'évolution de X._ était rendue particulièrement aléatoire par le fait que ce dernier se montrait peu conscient du trouble dont il souffrait et remettait régulièrement en question le bien-fondé de son traitement, pour le refuser depuis plusieurs semaines, son état psychique étant à nouveau instable, quoiqu'il se montrât encore relativement collaborant et respectueux dans le contact avec l'équipe soignante. C. Déposant un recours en matière pénale, X._ conclut à la réforme de l'arrêt du 20 mars 2008 en ce sens qu'une expertise psychiatrique est ordonnée aux fins de déterminer s'il doit être astreint à prendre des neuroleptiques, qu'il n'est plus tenu de prendre de tels médicaments et qu'il est libéré de l'isolement cellulaire. 