Sachverhalt: A. S._, geboren 1952, meldete sich am 21. Juli 2008 zum Leistungsbezug bei der Invalidenversicherung an. Mit Verfügung vom 27. Mai 2010 wies die IV-Stelle das Gesuch um eine Invalidenrente ab. Nachdem S._ dagegen hatte Beschwerde erheben lassen, hob das Versicherungsgericht des Kantons Aargau diese Verfügung mit Entscheid vom 17. November 2010 auf und wies die Sache zur weiteren Abklärung an die IV-Stelle zurück. Gestützt auf das Gutachten des Dr. med. E._, Facharzt für orthopädische Chirurgie, vom 9. Mai 2011 und der Ergänzung vom 19. Juli 2011 wies die IV-Stelle mit Verfügung vom 17. August 2011 erneut das Gesuch um eine Invalidenrente ab. Am 18. August 2011 lehnte sie berufliche Eingliederungsmassnahmen ab. B. Das Versicherungsgericht des Kantons Aargau hiess mit Entscheid vom 14. März 2012 die dagegen erhobene Beschwerde gut und sprach S._ ab 1. Juni 2009 eine Viertelsrente zu. C. Die IV-Stelle führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Antrag, der vorinstanzliche Entscheid sei aufzuheben; zudem ersucht sie um Erteilung der aufschiebenden Wirkung der Beschwerde. S._ lässt auf Abweisung der Beschwerde schliessen. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung. D. Mit Verfügung vom 9. Juli 2012 sprach das Bundesgericht der Beschwerde aufschiebende Wirkung zu. 