A.- M._, geb. 1950, war von Mai 1986 bis Ende April 2000 bei der E._ AG mit Sitz in Y._ als ungelernter Maurer angestellt gewesen. Gemäss Bericht der Arbeitgeberin (vom 1. Februar 1999) war er ab 22. Januar 1998 krankheitsbedingt der Arbeit ferngeblieben. Auf Anmeldung zum Bezug von Leistungen der Invalidenversicherung (vom 19. Januar 1999) hin klärte die IV-Stelle des Kantons Zürich die medizinischen sowie die beruflich-erwerblichen Verhältnisse ab. Mit Verfügung vom 3. November 1999 verneinte sie einen Anspruch auf eine Invalidenrente mangels rentenbegründender Invalidität. B.- Die dagegen eingereichte Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich ab (Entscheid vom 15. März 2001). C.- M._ lässt Verwaltungsgerichtsbeschwerde führen und beantragen, in Aufhebung des kantonalen Entscheides und der Verwaltungsverfügung vom 3. November 1999 sei die "Sache zur allfälligen ergänzenden Sachverhaltsabklärung und zur Berechnung und Festsetzung der gesetzlichen Leistungen aus IVG an die Vorinstanz bzw. an die Beschwerdegegnerin zurückzuweisen". Ferner sei ihm die unentgeltliche Verbeiständung zu gewähren. Die IV-Stelle schliesst auf Abweisung der Verwaltungsgerichtsbeschwerde. Das Bundesamt für Sozialversicherung verzichtet auf eine Vernehmlassung. 