Faits: Faits: A. A._ est propriétaire d'un immeuble à Bernex. Lors d'une visite le 8 janvier 2003, un inspecteur du département des constructions et des technologies de l'information de la République et canton de Genève (ci-après: le département) a constaté que A._ avait entrepris des travaux de transformation sans autorisation. Il se trouvait désormais, aux 1er et 2ème étages, deux appartements de cinq pièces au lieu des quatorze chambres, deux WC, deux douches et du réfectoire figurant sur les plans antérieurs. Le 14 mars 2003, A._ a déposé une demande d'autorisation de construire portant sur les travaux effectués. Au printemps 2003, il a loué les quatre appartements en cause, pour un loyer de 2'300 fr. plus 200 fr. de charges, sans attendre l'autorisation du département. Le 10 décembre 2003, le département a délivré l'autorisation de construire pour les travaux effectués aux 1er et 2ème étages, fixé les loyers applicables et infligé une amende de 5'000 fr. à A._ pour avoir violé la loi genevoise sur les constructions et installations diverses du 14 avril 1988 (LCI) et la loi genevoise sur les démolitions, transformations et rénovations de maisons d'habitation du 25 janvier 1996 (LDTR). L'autorisation de construire prévoyait sous condition n° 5 que le loyer annuel par pièce était fixé pour une période de cinq ans à 4'383 fr. (soit un loyer annuel de 21'915 fr. par appartement) à dater de la prise de location. Un délai de trente jours était imparti à A._ pour opérer les modifications nécessaires et restituer le trop-perçu aux locataires. L'autorisation de construire prévoyait sous condition n° 5 que le loyer annuel par pièce était fixé pour une période de cinq ans à 4'383 fr. (soit un loyer annuel de 21'915 fr. par appartement) à dater de la prise de location. Un délai de trente jours était imparti à A._ pour opérer les modifications nécessaires et restituer le trop-perçu aux locataires. B. Par décision du 28 janvier 2005, la commission cantonale de recours en matière de constructions de la République et canton de Genève (ci-après: la commission) a écarté le recours interjeté par A._ contre la décision du 10 décembre 2003 du département. Par arrêt du 16 août 2005, le Tribunal administratif de la République et canton de Genève (ci-après: le Tribunal administratif) a également rejeté le recours de A._ contre la décision de la commission. Par arrêt du 16 août 2005, le Tribunal administratif de la République et canton de Genève (ci-après: le Tribunal administratif) a également rejeté le recours de A._ contre la décision de la commission. C. Par courrier du 11 octobre 2005, le département a informé A._ que l'arrêt du Tribunal administratif du 16 août 2005 était définitif. Il lui a imparti un délai de trente jours pour établir de nouveaux baux et pour restituer les sommes perçues en trop aux locataires. A._ était également invité à bien vouloir informer le département des démarches entreprises, justificatifs à l'appui. Par courrier du 23 novembre 2005, A._ a précisé que le décompte pour les frais accessoires n'avait pas encore été établi mais qu'il était évident que l'acompte de 200 fr. ne couvrait de loin pas les prix effectifs. Il expliquait également que pour les nouveaux baux à signer, il envisageait un loyer annuel de 21'915 fr. et des frais accessoires annuels de 6'000 francs. Par courrier du 23 novembre 2005, A._ a précisé que le décompte pour les frais accessoires n'avait pas encore été établi mais qu'il était évident que l'acompte de 200 fr. ne couvrait de loin pas les prix effectifs. Il expliquait également que pour les nouveaux baux à signer, il envisageait un loyer annuel de 21'915 fr. et des frais accessoires annuels de 6'000 francs. D. Par décision du 10 janvier 2006, le département a constaté que A._ persistait à ne pas vouloir respecter la décision en force du 10 décembre 2003. Il a précisé que les motifs invoqués pour ne pas s'exécuter relevaient strictement du droit privé, de sorte qu'ils ne sauraient intéresser le département. Il a également relevé qu'il ne lui incombait au surplus pas de vérifier si les montants éventuellement réclamés sur le plan du droit privé étaient fondés et exigibles. En conséquence, il a, en application de l'art. 137 LCI, infligé une amende administrative de 5'000 fr. à A._ pour ne pas avoir respecté un ordre en force du département. Le montant de l'amende tenait compte de la gravité tant objective que subjective du comportement tenu, ainsi que de la récidive. Un délai de trente jours était imparti à A._ pour procéder au paiement de l'amende. Il lui était également ordonné, en application des art. 129 ss LCI, de se conformer à la décision du département du 10 décembre 2003, sous la menace de l'art. 292 CP. Par courrier du 13 janvier 2006, A._ a demandé au département de lui préciser si le montant du loyer maximal incluait les charges, cas échéant, si le département entendait fixer une limite à ces dernières. Par courrier du 17 janvier 2006, le département a répondu que les loyers fixés dans le cadre de l'application de la LDTR ne comprenaient pas les charges correspondant aux frais accessoires tels que définis par l'art. 257b CO. A._ a recouru contre la décision du 10 janvier 2006. Il soutenait que le département était en possession de tous les justificatifs et explications relatifs aux charges et devait donc se rendre compte qu'il ne devait rien rembourser aux locataires. Subsidiairement, il faisait valoir que la décision devait être annulée car elle souffrait d'un défaut de motivation, le montant précis à rembourser n'étant pas spécifié. Par décision du 10 mai 2006, la commission a déclaré son recours irrecevable. Elle a en effet estimé que la lettre du 10 janvier 2006, en tant qu'elle ordonnait l'exécution d'une décision en force, n'était pas sujette à recours en vertu de l'art. 59 let. b PA. Elle a au surplus déclaré le recours non fondé en tant qu'il concernait l'amende administrative de 5'000 francs. Selon elle, les faits de la cause établissaient sans aucun doute l'intention de A._ de ne pas se soumettre à la décision en force. A._ apparaissait comme un récidiviste sur lequel les décisions antérieures n'avaient produit aucun effet. Par arrêt du 19 septembre 2006, le Tribunal administratif a rejeté le recours de A._ contre la décision de la commission du 10 mai 2006. Il a confirmé le prononcé d'irrecevabilité de cette dernière. Le Tribunal administratif est cependant entré en matière sur le grief touchant au montant des loyers à restituer et l'a rejeté. S'agissant du moyen tiré de la compensation, le Tribunal administratif a estimé que A._ ne pouvait à la fois contester l'exigibilité de sa dette en qualifiant l'obligation qui lui était impartie de peu précise, voire d'indéterminable, et exciper de compensation. Par arrêt du 19 septembre 2006, le Tribunal administratif a rejeté le recours de A._ contre la décision de la commission du 10 mai 2006. Il a confirmé le prononcé d'irrecevabilité de cette dernière. Le Tribunal administratif est cependant entré en matière sur le grief touchant au montant des loyers à restituer et l'a rejeté. S'agissant du moyen tiré de la compensation, le Tribunal administratif a estimé que A._ ne pouvait à la fois contester l'exigibilité de sa dette en qualifiant l'obligation qui lui était impartie de peu précise, voire d'indéterminable, et exciper de compensation. E. Agissant par la voie du recours de droit public, A._ demande au Tribunal fédéral d'annuler l'arrêt rendu par le Tribunal administratif le 19 septembre 2006 et de renvoyer la cause à l'autorité cantonale pour nouvelle décision dans le sens des considérants. Il reproche au Tribunal administratif d'avoir violé le principe de la bonne foi et d'être tombé dans l'arbitraire en confirmant l'amende administrative de 5'000 francs. Il lui fait également grief d'être tombé dans l'arbitraire en violant le principe de la compensation. Le Tribunal administratif n'a formulé aucune observation. Il s'en est rapporté à justice quant à la recevabilité du recours et a persisté dans les considérants et le dispositif de son arrêt. Le département a répondu au recours. Il s'en est rapporté à justice quant à la recevabilité du recours et a conclu à son rejet au fond. Par ordonnance du 20 novembre 2006, le Président de la Ire Cour de droit public a admis la demande d'effet suspensif formulée par A._. 