Faits: A. X._ et Y._ sont propriétaires des parcelles 13'435 de la commune de A._ et 10'103 de la commune de B._. Ces bien-fonds contigus, d'une surface totale d'environ 80'000 m2, sont situés en zone agricole et dans le périmètre de la zone de développement de la zone industrielle de Meyrin-Satigny. Ils renferment, sous une couverture argileuse de 3 à 8 m d'épaisseur, des graviers exploitables sur une profondeur de plus de 30 m. Le 20 août 1993, une autorisation n° 626-823 d'exploiter une gravière a été octroyée pour ces parcelles, ainsi que pour le bien-fonds 13'436 de la commune de B._. Cette autorisation a été transférée le 26 juin 2001 à la société Z._ SA (ci-après: Z._ SA). Par acte instrumenté les 14 et 15 juin 2010, Y._ et X._ ont vendu les parcelles 13'435 et 10'103 à Z._ SA pour le prix de 40'000'000 fr. Le 4 août 2010, le Conseil d'Etat du canton de Genève a déclaré exercer son droit de préemption au prix de 23'700'000 fr. Il ne méconnaissait pas la présence de la nappe de gravier, ce dont tenait compte le prix proposé. Il s'agissait toutefois de garantir qu'immédiatement après l'achèvement de l'exploitation du gravier, une utilisation industrielle et artisanale des deux parcelles en cause puisse être mise en place, ce qui entraînerait des surcoûts liés au remblayage des terrains et, ainsi, une diminution de leur valeur. Ces surcoûts avaient été estimé par des experts en ingénierie et en géologie et s'élevaient à 16'300'000 fr. B. Y._ et X._ ainsi que Z._ SA ont recouru contre la décision du Conseil d'Etat auprès du Tribunal administratif du canton de Genève, devenu depuis le 1er janvier 2011 la Chambre administrative de la Cour de justice (ci-après: la Chambre administrative). Par arrêt du 20 décembre 2011, la Chambre administrative a rejeté les recours précités. Elle a considéré en substance que l'Etat agissait dans un but d'intérêt public et que l'exercice de son droit de préemption répondait à l'objectif de lutte contre des opérations d'aliénation à des prix excessifs prescrit par l'art. 11 de la loi générale sur les zones de développement industriel du 13 décembre 1984 (ci-après: la LGZDI). C. Agissant par la voie du recours en matière de droit public, X._ et Y._ demandent au Tribunal fédéral d'annuler l'arrêt de la Chambre administrative du 20 décembre 2011 ainsi que la décision du Conseil d'Etat du 4 août 2010. Ils se plaignent pour l'essentiel d'une violation du principe de l'instruction d'office, d'une violation de leur droit d'être entendus ainsi que d'une violation de la garantie de la propriété. Z._ SA a également recouru contre l'arrêt de la Chambre administrative du 20 décembre 2011. Elle demande au Tribunal fédéral d'annuler l'arrêt attaqué ainsi que la décision du Conseil d'Etat du 4 août 2010 et de renvoyer la cause à la Chambre administrative pour instruction complémentaire. Elle se plaint d'une violation des garanties constitutionnelles de procédure ainsi que d'une violation de la garantie de la propriété et de la liberté économique. La Chambre administrative s'en rapporte à justice quant à la recevabilité des recours et persiste dans les considérants et le dispositif de son arrêt. Le Conseil d'Etat conclut à la jonction des causes et au rejet des recours, dans la mesure où ils sont recevables. Les recourants se sont exprimés à plusieurs reprises, confirmant les conclusions de leurs mémoires de recours. Par ordonnance du 5 mars 2012, le Président de la Ire Cour de droit public a admis la requête d'effet suspensif de Z._ SA. 