Sachverhalt: A. Im Dezember 2007 ersuchte M._, geboren 1957, um Leistungen der Invalidenversicherung. Nach umfangreichen beruflichen und medizinischen Abklärungen, darunter die Einholung eines polydisziplinären Gutachtens des Instituts X._ vom 12. August 2010 und dessen Ergänzung im Mai 2011, verneinte die IV-Stelle des Kantons St. Gallen am 8. Juli 2011 den Anspruch auf eine Invalidenrente. B. Die dagegen erhobene Beschwerde hiess das Versicherungsgericht des Kantons St. Gallen mit Entscheid vom 16. September 2013 teilweise gut, stellte den Anspruch auf eine Viertelsrente ab 1. Dezember 2008 fest und wies die Sache zur Rentenberechnung und -ausrichtung an die IV-Stelle zurück. C. Die IV-Stelle führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Antrag, der vorinstanzliche Entscheid sei aufzuheben und die Verfügung vom 8. Juli 2011 zu bestätigen. Zudem sei der Beschwerde die aufschiebende Wirkung zu erteilen. M._ lässt auf Abweisung der Beschwerde schliessen undeventualiter die Rückweisung an die Vorinstanz zur Einholung eines Obergutachtens beantragen. Weiter sei der Beschwerde der IV-Stelle keine aufschiebende Wirkung zuzuerkennen. Das Bundesamt für Sozialversicherungen verzichtet auf eine Stellungnahme. 