A.- P._ (geboren 1963) war seit 1983 als Hilfsarbeiter in der Schweiz tätig, zuletzt bei der Firma S._. Ab 10. Januar 1995 blieb er der Arbeit infolge Rückenbeschwerden fern. Mit Anmeldungen vom 1. September 1995 und 15. Februar 1996 ersuchte er um Leistungen der Invalidenversicherung. Die IV-Stelle des Kantons Zürich liess berufliche Massnahmen abklären und lehnte am 27. Juni 1996 sowie nach nochmaliger Anmeldung am 22. August 1997 einen Anspruch auf eine Rente ab. Nachdem P._ gegen die Verfügung vom 22. August 1997 Beschwerde hatte erheben lassen, wies das Sozialversicherungsgericht des Kantons Zürich die Sache mit Entscheid vom 29. Januar 1998 an die IV-Stelle zur Durchführung einer polydisziplinären Untersuchung zurück. Gestützt auf das Gutachten des Zentrums für Medizinische Begutachtung (ZMB) vom 3. November 1998 verneinte die IV-Stelle mit Verfügung vom 7. April 1999 erneut einen Anspruch auf eine Rente. B.- Die hiegegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 29. Januar 2001 ab. C.- P._ lässt Verwaltungsgerichtsbeschwerde führen mit dem Antrag, es sei der vorinstanzliche Entscheid aufzuheben und die Sache zur Neubeurteilung an die IV-Stelle zurückzuweisen. Die IV-Stelle schliesst auf Abweisung der Verwaltungsgerichtsbeschwerde. Das Bundesamt für Sozialversicherung verzichtet auf eine Vernehmlassung. 