Sachverhalt: A. Die Y._ AG (Y._ AG) stellte am 26. Mai 2008 beim Bauinspektorat des Kantons Basel-Landschaft ein Baugesuch für den Bau eines Mehrfamilienhauses mit Laden und Einstellhalle an der Sissacherstrasse in Gelterkinden. Gegen dieses Baugesuch erhoben AX._ und BX._ Einsprache. Mit Entscheid vom 7. Mai 2010 wies das Bauinspektorat die Einsprache ab, soweit es auf diese eintrat, und erteilte der Y._ AG die Baubewilligung unter Auflagen. Diesen Einspracheentscheid fochten AX._ und BX._ bei der Baurekurskommission des Kantons Basel-Landschaft an, welche die Beschwerde mit Entscheid vom 16. November 2010 abwies. Gegen diesen Entscheid reichten AX._ und BX._ Beschwerde beim Kantonsgericht Basel-Landschaft ein. Mit Verfügung vom 22. September 2011 wies die Präsidentin des Kantonsgerichts den Verfahrensantrag von AX._ und BX._ auf Einholung eines geologischen Gutachtens ab. Am 25. Januar 2012 führte das Kantonsgericht eine Parteiverhandlung mit vorgängigem Augenschein durch. Mit Urteil vom gleichen Tag wies es die Beschwerde ab. B. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten ans Bundesgericht vom 15. Mai 2012 beantragen AX._ und BX._ sinngemäss, der Entscheid des Kantonsgerichts Basel-Landschaft vom 25. Januar 2012 sei aufzuheben, und das Baugesuch der Y._ AG sei nicht zu bewilligen. Eventualiter sei die Baubewilligung nur mit detaillierten Auflagen zu erteilen. Subeventualiter sei die Angelegenheit zur Neubeurteilung an die Vorinstanz zurückzuweisen. Mit Verfügung vom 14. Juni 2012 hat der Präsident der I. öffentlich-rechtlichen Abteilung des Bundesgerichts der Beschwerde die aufschiebende Wirkung zuerkannt. Das Kantonsgericht und die Baurekurskommission des Kantons Basel-Landschaft haben auf eine Vernehmlassung verzichtet. Die Einwohnergemeinde Gelterkinden hat eine Stellungnahme zur Beschwerde eingereicht, ohne einen förmlichen Antrag zu stellen. Die Beschwerdegegnerin beantragt, die Beschwerde sei abzuweisen, soweit darauf einzutreten sei. Die Beschwerdeführer halten in ihrer Replik an ihrem Standpunkt und an ihren Anträgen fest. 