Sachverhalt: A. K._, geboren 1961, meldete sich am 6. März 2008 unter Hinweis auf einen Bandscheibenvorfall bei der Invalidenversicherung zum Leistungsbezug an. Nach Einholung der Akten der Schweizerischen Unfallversicherungsanstalt (SUVA), eines Gutachtens des Dr. med. S._, Orthopädische Chirurgie FMH, vom 29. April 2009 sowie einer Untersuchung durch ihren Regionalen Ärztlichen Dienst (RAD; Bericht vom 24. Juni 2009) lehnte die IV-Stelle des Kantons Zürich den Anspruch auf eine Invalidenrente mit Verfügung vom 12. Januar 2010 ab mit der Begründung, dass der Versicherte in einer leidensangepassten Tätigkeit zu 100 % arbeitsfähig sei und ein rentenausschliessendes Erwerbseinkommen zu erzielen vermöchte (Invaliditätsgrad: 21 %). B. Die dagegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 9. Mai 2012 ab. C. K._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Antrag, unter Aufhebung des angefochtenen Entscheides sei ihm nach Einholung eines Gutachtens eine Invalidenrente bei einem Invaliditätsgrad von mindestens 43 % zuzusprechen. Während die IV-Stelle auf Abweisung der Beschwerde schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung. 