Faits: A. Le 26 septembre 2008, le service cantonal genevois de géologie, sols et déchets (GESDEC) a autorisé la société A._ à exploiter une installation de recyclage de déchets minéraux à des conditions détaillées, portant notamment sur les catégories et volumes de matériaux visés, et en particulier sur leur traitement séparé lors des entreposage, concassage et stockage. Par décision du 30 septembre 2010, le GESDEC a ordonné une remise en état des lieux et infligé à la société une amende administrative de 50'000 fr. en application de l'art. 43 de la loi genevoise du 20 mai 1999 sur la gestion des déchets (LGD/GE; RS GE L 1 20), pour non-respect de l'autorisation du 26 septembre 2008. La société avait stocké des déchets hors du périmètre autorisé, en quantités excessives et sans distinction des catégories de matériaux. L'autorité constatait ainsi une violation de l'art. 10 LGD/GE et de différents points de l'autorisation. B. Par jugement du 7 décembre 2011, le Tribunal administratif de première instance (TAPI) a confirmé la validité de l'ordre de remise en état et annulé l'amende administrative. Saisie de deux recours contre cet arrêt, la Chambre administrative de la Cour de justice de la République et canton de Genève a rejeté celui de A._ et admis celui du département cantonal concerné. Elle a ainsi annulé partiellement le jugement du TAPI et confirmé l'amende infligée à la société. Elle a en effet considéré que l'amende en question était une amende administrative et non pénale, de sorte que la partie générale du code pénal suisse (CP) ne s'appliquait que pour le comblement de lacunes, et par simple analogie. Dans cette mesure, la punissabilité des personnes morales n'était pas régie par les règles générales du CP, mais était propre au droit administratif. Les personnes morales étant en droit administratif des sujets de droit au même titre que les personnes physiques, les sanctions à forme d'amende administrative pouvaient leur être infligées. C. Agissant par la voie du recours en matière de droit public, A._ demande au Tribunal fédéral d'une part d'annuler le jugement de la Chambre administrative de la Cour de justice, ainsi que la décision rendue le 30 septembre 2010 par le GESDEC ordonnant une évacuation des déchets des parcelles et une mise en conformité des volumes entreposés, et d'autre part de confirmer le jugement du TAPI dans la mesure où il annule l'amende administrative. Subsidiairement, elle conclut au renvoi de la cause à la cour cantonale pour nouvelle décision dans le sens des considérants. La Cour de justice renonce à se déterminer et se réfère aux considérants et dispositif de son arrêt. Le Département de l'intérieur, de la mobilité et de l'environnement de la République et canton de Genève se détermine et conclut au rejet du recours. La recourante a répliqué et présenté de nouveaux griefs. Le département cantonal s'est à nouveau exprimé. Par ordonnance du 21 janvier 2013, le Président de la Ire Cour de droit public a octroyé l'effet suspensif au recours. 