A.- Der 1954 geborene B._ war seit 1987 (zunächst im Rahmen einer Saisonnier-, später einer Ganzjahresbeschäftigung) als Schaler bei der Z._ AG angestellt. Er leidet an Rückenbeschwerden, welche sich im September 1997 verschlimmerten, und arbeitete deshalb ab 18. September 1997 nicht mehr. Am 14. Juli 1998 meldete sich B._ bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle des Kantons Zürich zog Auskünfte der Arbeitgeberin vom 27. Juli 1998, Berichte der IV-internen Berufsberatung vom 26. November 1998 und 27. April 1999, des Spitals X._ vom 24. Juni 1998 (Rheumaklinik und Institut für Physikalische Medizin) und 11. März 1999 (Psychiatrische Poliklinik) sowie eine Stellungnahme des IV-internen ärztlichen Dienstes vom 17. Juni 1999 bei. Daraufhin sprach sie dem Versicherten - nach Durchführung des Vorbescheidverfahrens - mit Verfügung vom 12. November 1999 für die Zeit ab 1. September 1998 auf Grund eines Invaliditätsgrades von 58 % eine halbe Rente (mit Zusatzrente und Kinderrenten) zu. B.- Die dagegen erhobene Beschwerde mit dem Antrag auf Zusprechung einer ganzen Rente, eventualiter Einholung eines ergänzenden medizinischen Gutachtens, wies das Sozialversicherungsgericht des Kantons Zürich ab (Entscheid vom 26. März 2001). C.- Mit Verwaltungsgerichtsbeschwerde lässt B._ das Rechtsbegehren stellen, es sei der kantonale Entscheid aufzuheben und ihm mit Wirkung ab 1. September 1998 eine ganze Rente zuzusprechen; eventuell sei die Sache zu ergänzender Abklärung an die IV-Stelle zurückzuweisen. Zur Stützung seines Standpunktes lässt er unter anderem ein ärztliches Zeugnis von Frau Dr. med. O._, Psychiatrie und Psychotherapie FMH, vom 11. Mai 2000 einreichen. Während die IV-Stelle auf Abweisung der Verwaltungsgerichtsbeschwerde schliesst, verzichtet das Bundesamt für Sozialversicherung auf eine Vernehmlassung. 