Faits: A. Originaire du Kosovo, X._, né en 1979, est entré illégalement en Suisse le 10 novembre 2005. Le 10 juillet 2006, il a sollicité une autorisation de séjour dans le but d'épouser sa fiancée, Y._, ressortissante suisse née en 1977. Suite au mariage célébré le 28 septembre 2006, X._ a été mis au bénéfice d'une autorisation de séjour valable jusqu'au 27 septembre 2007. Le 1er mai 2007, Y._ a quitté le territoire suisse où elle dépendait des services sociaux depuis environ dix ans pour s'installer en France dans le but d'y exercer une activité lucrative. Depuis lors, elle a occupé un emploi d'accueillante familiale. Elle a confirmé avoir des contacts réguliers avec son époux resté en Suisse. B. Le 19 juillet 2007, X._ a sollicité la prolongation de son autorisation de séjour. A cette occasion, il a précisé que le couple faisait ménage séparé en attendant qu'il trouve un travail au domicile de son épouse, en France. La validité de son autorisation de séjour a été prolongée au 27 septembre 2009. Le 7 août 2009, il a requis une nouvelle prolongation de son autorisation de séjour, indiquant être toujours à la recherche d'un emploi en France pour y rejoindre son épouse. Il a ajouté qu'ils se voyaient régulièrement pendant les fins de semaine ou les vacances scolaires. Le 4 mars 2010, le Service de la population du canton de Vaud (SPOP) a refusé de prolonger l'autorisation de séjour. C. Contre la décision du SPOP, X._ a saisi la Cour de droit administratif et public du Tribunal cantonal (ci-après: le Tribunal cantonal) d'un recours. Dans le cadre de cette procédure, il a produit une carte de résident valable jusqu'au 11 avril 2010 que les autorités françaises lui ont délivrée en sa qualité de membre de la famille d'un ressortissant suisse. Lors d'une audience qui s'est déroulée le 4 octobre 2010, Y._ a exposé ce qui suit: "Nous avons acheté une maison en France dans laquelle je vis et j'exerce mon activité professionnelle. Mon mari cherche du travail dans la région par internet, mais ce n'est vraiment pas évident de trouver du travail en France. Mon revenu mensuel se situe entre 2'400 et 3'000 euros. Le revenu mensuel moyen en France s'élève à 1'000-1'200 euros. Je précise que je suis tenue d'avoir une autre source de revenu que mon propre revenu pour pouvoir conserver mon agrément m'autorisant à exercer mon activité d'accueillante familiale. Cette règle est établie par les autorités françaises pour éviter que des gens sans ressources financières accueillent des personnes chez eux pour gagner leur vie. J'ai donc besoin du salaire de mon mari pour pouvoir travailler. J'accueille actuellement trois personnes âgées dans ma maison, chacune s'acquittant d'un montant mensuel de 800 euros. Quand je vivais en Suisse, je dépendais de l'assistance sociale. Mon mari et moi essayons de nous voir au moins quatre jours par mois. Les trajets sont effectivement onéreux. Cette année, j'ai dû venir en Suisse environ une dizaine de fois. En moyenne, je reste une semaine. Mon mari vient en France deux à trois fois par mois, mais il reste moins longtemps. Quand nous nous voyons, nous menons une vie de couple normale. Quand il vient, je n'ai pas forcément congé. Nous vivons à la maison, et profitons d'y effectuer des travaux. La distance me pose un problème; cette solution n'est pas viable à long terme. Ma fille, Océane, a 14 ans. Elle vit en France avec moi depuis le début. Mon fils, Flavien, a 12 ans. Il vient d'arriver en France en juin 2010. Auparavant, il vivait chez son père. Pour obtenir son titre de résidence en France, mon mari a expliqué la situation telle qu'elle se présente; il a expliqué qu'il vivait en Suisse, mais que les Suisses ne voulaient plus de lui." Il ressort encore de l'audition de la directrice de l'entreprise employant X._ que ce dernier a été engagé en décembre 2009 comme monteur électricien (sans CFC) pour une rémunération de 25 fr. de l'heure, qu'il perçoit entre 5'000 et 6'000 fr. par mois, qu'il travaille beaucoup, effectuant beaucoup d'heures et ne demandant jamais de congés spéciaux. Selon l'employeur, X._ n'a jamais évoqué un départ ou des recherches de travail en France. Par arrêt du 7 octobre 2010, le Tribunal cantonal a rejeté le recours. Il a estimé que les motifs économiques invoqués par X._ pour vivre séparé de son épouse ne constituaient pas une raison majeure permettant de faire exception à l'exigence d'une vie commune et que, par ailleurs, le centre de sa vie familiale n'était pas en Suisse, mais en France où vivait son épouse, si bien qu'il ne pouvait pas prétendre à l'octroi d'une autorisation de séjour en Suisse au titre du regroupement familial. D. X._ forme simultanément un recours en matière de droit public et un recours constitutionnel subsidiaire au Tribunal fédéral contre l'arrêt précité du Tribunal cantonal dont il requiert l'annulation. Il conclut principalement à l'octroi d'une autorisation de séjour et, subsidiairement, au renvoi de la cause au Tribunal cantonal pour instruction complémentaire et nouvelle décision dans le sens des considérants. Il invoque la violation de la loi fédérale sur les étrangers et de son droit d'être entendu. Invités à se prononcer sur le sort à réserver au recours, le Tribunal cantonal et le SPOP ont renoncé à se déterminer, alors que l'Office fédéral des migrations conclut à son rejet. Par ordonnance du 12 novembre 2010, le Président de la IIème Cour de droit public a accordé l'effet suspensif au recours. 