Sachverhalt: A. W._, geboren am 7. November 1950, ist gelernter Maschinenmechaniker und arbeitete ab 1989 bis Ende April 2012 als Monteur in der N._ AG. Am 1. November 2011 meldete er sich unter Hinweis auf schmerzende Druckstellen in der rechten Hand, starke Schmerzen bei Belastung in beiden Ellbogen und Beschwerden nach fünf Operationen am rechten Knie mit zur Zeit starker Ausstrahlung in die rechte Hüfte bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle des Kantons Zürich tätigte beruflich-erwerbliche sowie medizinische Abklärungen. Sie zog die Akten des Krankentaggeldversicherers Allianz Suisse Versicherungs-Gesellschaft (Allianz) bei. Mit Vorbescheid vom 20. Februar 2012 und Verfügung vom 4. April 2012 sprach die IV-Stelle dem Versicherten gestützt auf das Gutachten (z.H. der Allianz) des Zentrums X._ vom 9. März 2012 eine Viertelsrente ab 1. April 2012 zu (Invaliditätsgrad von 41 %). Es wurde angemerkt, da zu einem späteren Zeitpunkt noch weitere medizinische Abklärungen angezeigt seien, sei eine Stellensuche und somit eine berufliche Eingliederungsmassnahme zurzeit nicht möglich. B. Die von W._ gegen die Verfügung vom 4. April 2012 eingereichte Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 3. September 2013 ab. C. W._ führt Beschwerde in öffentlich-rechtlichen Angelegenheiten. Er beantragt, der kantonale Entscheid sowie der Vorbescheid vom 20. Februar 2012 und die Verfügung vom 4. April 2012 seien aufzuheben. Es sei ihm ab dem 1. April 2012 eine ganze IV-Rente zuzusprechen. Eventualiter sei ein neutrales, umfassendes, polydisziplinäres Gerichtsgutachten zu erstellen. Subeventualiter seien ihm Eingliederungsmassnahmen (insbesondere berufliche Massnahmen) zuzusprechen. Die IV-Stelle beantragt die Abweisung der Beschwerde. Vorinstanz und Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung. 