Faits: A. A.a Z._, né en 1946, a travaillé dans le domaine des ressources humaines parfois comme directeur salarié parfois comme consultant indépendant au service de différentes sociétés internationales, activités qui ont été entrecoupées par des périodes de chômage en 1998, 2001 et 2004. Il a fondé en mars 1990 la raison individuelle X._, qui est inscrite au registre du commerce et dont le but est le placement de personnel et le conseil d'entreprises. Il a également créé un site Internet Y._. Son dernier emploi était un engagement salarié à plein temps dès le 1er avril 2006 auprès de la société S._ en qualité de conseiller en ressources humaines. Licencié avec effet au 31 mai 2007 pour cause de restructuration, Z._ s'est inscrit à l'assurance-chômage et a demandé des indemnités journalières à partir du 1er juin 2007. A.b Z._ a informé l'Office régional de placement à N._ (ORP) de l'existence de son entreprise individuelle à l'occasion du premier entretien personnel avec une conseillère. Invité à répondre à un questionnaire sur son activité indépendante et sur ses disponibilités pour un emploi salarié, le prénommé a déclaré que sa société ne l'avait jamais empêché de travailler pour ses anciens employeurs qui avaient été mis au courant, ni n'avait exigé un investissement en temps très important de sa part. Il a précisé que sa disponibilité pour un emploi salarié était totale et qu'il était prêt à se désengager de toute activité au sein de sa société en cas d'engagement comme il l'avait fait par le passé. Au vu de ces réponses, l'ORP a confirmé son aptitude au placement par avis du 21 mai 2007. A.c Sur la formule "Indications de la personne assurée" du mois de novembre 2007, l'assuré a mentionné qu'il avait exercé une activité indépendante les 3, 10, 17 et 31 octobre précédents, le soir. Selon l'attestation de gain intermédiaire y relative, il s'agissait de cours donnés au Centre F._ pour un montant de 840 fr. Le 5 décembre 2007, Z._ a encore signalé à la Caisse cantonale de chômage qu'il avait omis par inattention de déclarer les honoraires qu'il avait perçus de la société C._ Sàrl pour d'autres cours donnés les 5 juin, 5 juillet et 23 octobre 2007. L'assuré a remboursé les sommes qui lui ont été réclamées par la caisse pour les gains intermédiaires qu'il avait annoncés tardivement. A.d Le 11 janvier 2008, l'ORP, a informé l'assuré que la facturation de ses prestations au nom de sa raison individuelle constituait un motif de réexamen de son aptitude au placement. Des renseignements lui étaient demandés, notamment sur ses objectifs, son emploi du temps, les investissements consentis dans la société et les comptes de celle-ci. L'intéressé était également requis de s'expliquer sur la circonstance que son nom ou celui de Y._ était mentionné dans des formulaires de recherches d'emploi d'autres assurés. A.e Z._ s'est déterminé dans plusieurs courriers, insistant sur le fait qu'il était entièrement disponible pour un travail salarié, qu'il se consacrait entièrement à ses recherches d'emploi et non pas à sa société, et qu'il n'avait ni personnel ni associé, mais bénéficiait de l'aide d'un ami, H._ qui s'occupait occasionnellement du bureau. L'assuré a également fourni le résultat des comptes de sa société ainsi qu'une copie de sa déclaration d'impôt relatifs à l'année 2007. Le 21 février 2008, il a annoncé à l'ORP qu'il venait de trouver deux mandats de consultant externe et qu'il renonçait à l'assurance-chômage à partir de janvier 2008. A.f Par décision du 10 juillet 2008, l'ORP a déclaré Z._ inapte au placement rétroactivement au 1er juin 2007. L'office a retenu que le prénommé avait exercé une activité indépendante et en avait tiré des revenus qu'il n'avait pas déclarés à la caisse, de sorte que son chômage n'était pas contrôlable. Saisi d'une opposition, le Service de l'emploi l'a écartée dans une nouvelle décision du 20 novembre 2009. B. Par jugement du 25 novembre 2011, la Cour des assurances sociales du Tribunal cantonal vaudois a rejeté le recours formé par l'intéressé contre cette dernière décision. C. Z._ interjette un recours en matière de droit public contre ce jugement, dont il requiert l'annulation. Sous suite de frais et dépens, il invite le Tribunal fédéral à statuer à nouveau et à annuler la décision sur opposition du 20 novembre 2009 du service de l'emploi. Ce dernier conclut au rejet du recours, tandis que le Secrétariat d'Etat à l'économie a renoncé à se déterminer. 