Faits: A. X._ est propriétaire, avec son épouse, de la parcelle n° 9026 de la commune de Collonge-Bellerive. Cette parcelle, riveraine du lac, est bâtie d'une villa qui bénéficie d'une vue imprenable sur le lac et la rive droite, avec le Jura en arrière-plan. Le 5 juin 2008, X._ s'est plaint que deux bouées avaient été installées durant l'été 2007 en face de sa propriété, auxquelles étaient amarrés deux bateaux, dont l'un en très mauvais état. Le 19 juin 2008, la Capitainerie cantonale a précisé que ces bouées avaient fait l'objet d'une autorisation délivrée le 19 octobre 2005 par le Département de l'intérieur et de la mobilité de la République et canton de Genève à l'entreprise Y._ Sàrl, pour un usage professionnel. La Chambre administrative de la Cour de justice de la République et canton de Genève a déclaré irrecevable le recours interjeté par X._ contre cette autorisation au terme d'un arrêt rendu le 31 janvier 2012. B. Agissant par la voie du recours en matière de droit public, X._ demande au Tribunal fédéral d'annuler cet arrêt et de renvoyer la cause à la cour cantonale pour nouvelle décision au sens des considérants. Le Département de l'intérieur et de la mobilité conclut au rejet du recours. La Chambre administrative persiste dans les considérants et le dispositif de son arrêt. Y._ Sàrl en demande la confirmation. 