A.- Der 1957 geborene, zuletzt vom 1. März 1991 bis 30. November 1995 als Maurer bei der in W._ domizilierten Firma S._ AG angestellte P._ meldete sich am 15. Januar 1996 unter Hinweis auf ein Rückenleiden bei der Invalidenversicherung zum Leistungsbezug an. Im Anschluss an die Abklärung der beruflichen Eingliederungsmöglichkeiten absolvierte er vom 27. November 1996 bis 26. Mai 1997 in der Beruflichen Abklärungs- und Ausbildungsstätte A._, ein Arbeitstraining im Bereich Gerätemontage (Arbeitszeugnis vom 22. Mai 1997). Die IV-Stelle des Kantons Zürich schloss das Verfahren um berufliche Massnahmen mit Verfügung vom 16. Juni 1997 ab. Auf erneute Anmeldung zum Leistungsbezug hin verneinte die IV-Stelle nach Abklärungen in medizinischer und beruflich-erwerblicher Hinsicht mangels rentenbegründender Invalidität einen Anspruch auf eine Invalidenrente (Verfügung vom 4. Juni 1998). B.- Die hiegegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 25. Januar 2000 ab. C.- P._ lässt Verwaltungsgerichtsbeschwerde führen und beantragen, in Aufhebung des vorinstanzlichen Entscheides sei ihm mindestens eine Viertelsrente zuzusprechen, eventuell sei die Sache zwecks Vornahme ergänzender Abklärungen und zum Erlass eines neuen Entscheides an das kantonale Gericht zurückzuweisen. Während die IV-Stelle auf Abweisung der Verwaltungsgerichtsbeschwerde schliesst, lässt sich sich das Bundesamt für Sozialversicherung nicht vernehmen. 