Faits: A. Le secteur xxx, sur la commune de Y._, est affecté à la zone industrielle I. D'après l'art. 191 du règlement communal sur les constructions approuvé par le Conseil d'Etat le 7 juin 1995 (ci-après: aRCC), il est permis d'y aménager un logement pour surveillant, intégré à la construction, dans le cas où "l'activité principale du requérant est dépendant[e] de son établissement". Cette disposition autorise néanmoins le conseil municipal à retirer le permis d'habiter en cas de cessation d'activité ou de changement d'affectation de l'établissement, si la présence d'un surveillant ne se justifie plus ou si le logement est occupé par une personne étrangère à l'établissement. La parcelle n° 3358, située dans ce secteur, est constituée en propriété par étage (PPE) de cinq unités. X._ est propriétaire du lot 6115, qui comprend un appartement de 4 pièces et demie, une tonnelle, un garage et un dépôt sis au rez. Il est également propriétaire, avec deux autres personnes, du lot 6118, qui porte sur des bureaux situés au premier étage. Ces bureaux sont ceux de l'agence immobilière que l'intéressé exploite en raison individuelle à l'enseigne "Z._". A l'occasion d'un contrôle effectué sur place en février 2009, la police intercommunale du Haut-Lac (ci-après: la PIHL) a constaté que l'appartement compris dans la PPE 6115 était occupé par huit personnes au bénéfice ou en attente d'un permis L. Sur demande de l'administration communale de Y._, X._ a expliqué, par courriel du 11 mars 2009, que la pénurie de logements l'avait amené à héberger cinq Portugais, tous déclarés, qui travaillaient temporairement sur le site chimique de A._. Revenue sur les lieux le 4 mai 2009, la PIHL y a relevé la présence de B._, ressortissante française domiciliée en France. Celle-ci s'est présentée comme l'amie de C._, fils de X._, qui prévoyait de s'établir dans l'appartement de son père. La PIHL en a eu la confirmation par le contrôle des habitants, le 7 mai 2009, auprès duquel C._ avait effectivement annoncé son arrivée. B. Le 5 mai 2009, C._ a demandé à la commune à pouvoir occuper le "logement [de son père] comme concierge". Il était en effet important que les lieux soient "occupés en permanence à des fins de sécurité". Le 13 mai 2009, l'administration communale a informé X._ que son fils était autorisé à loger dans l'appartement en question, compte tenu des explications de son courrier. En novembre 2009, la PIHL a constaté que C._ et B._, son épouse, étaient régulièrement inscrits auprès du contrôle des habitants et qu'ils logeaient effectivement dans l'appartement de X._. Entre les 5 et 10 novembre 2009, elle a effectué des passages quotidiens afin de surveiller l'activité de l'agence immobilière; elle n'a rencontré ni son propriétaire, ni toute autre personne travaillant pour le compte de l'entreprise. Interpellé à ce sujet, X._ lui a toutefois assuré, le 11 novembre 2009, que les bureaux de son entreprise se trouvaient toujours dans ce bâtiment mais que, en raison de problèmes d'accès dus aux travaux entrepris par les propriétaires d'un autre lot de la PPE (échafaudages installés autour du bâtiment et accès aux places de parking insuffisamment large), il ne s'y rendait "pas souvent". C. Par décision du 23 novembre 2009, le conseil municipal de Y._ a imparti à X._, respectivement à son locataire, un délai au 31 mars 2010 pour libérer les lieux, au motif que l'occupation du logement n'était pas conforme à l'art. 191 aRCC. C._ exerçait en effet la profession d'infirmier à titre principal tandis que son épouse était sans emploi. En outre, l'agence immobilière n'avait donné aucun signe d'activité lors des contrôles effectués en novembre 2009 par la PIHL, l'intéressé ayant lui-même admis ne pas se rendre souvent dans les locaux de son entreprise. X._ a porté sa cause devant le Conseil d'Etat qui, par décision du 2 mars 2011, a rejeté son recours; C._ et son épouse n'ayant pas d'activité principale dépendante d'un établissement industriel au sens des art. 190 et 191 aRCC, l'ordre de libérer les lieux se justifiait. Le 2 décembre 2011, la Cour de droit public du Tribunal cantonal du canton du Valais (ci-après: le Tribunal cantonal) a rejeté le recours de X._ contre la décision précitée, dans la mesure de sa recevabilité. Le Tribunal cantonal a retenu en substance que la décision communale n'était pas arbitraire et ne heurtait pas le principe de la proportionnalité. L'intéressé invoquait par ailleurs en vain la protection de sa bonne foi. D. Agissant par la voie du recours en matière de droit public, X._ demande au Tribunal fédéral d'annuler l'arrêt du Tribunal cantonal du 2 décembre 2011 et de lui octroyer l'autorisation d'occuper ou de "faire occuper" le logement litigieux, subsidiairement de renvoyer la cause à l'autorité cantonale pour nouveau jugement dans le sens des considérants. Il se plaint pour l'essentiel d'une violation de la garantie de la propriété, en relation avec les art. 190 et 191 aRCC, et d'une violation du principe de la protection de la bonne foi. Le Tribunal cantonal, le Conseil d'Etat ainsi que la commune de Y._ renoncent à se déterminer sur le recours. 