A.- Der 1950 geborene A._ war vom 4. September 1978 bis 31. August 1987 als Reparaturschlosser bei der Firma W._ AG angestellt gewesen. Wegen Rückenbeschwerden hielt er sich vom 23. Juli bis 13. August 1987 im Rehabilitationszentrum R. auf, wo der Befund eines chronisch rezidivierenden Lumbovertebralsyndroms bei Diskushernie L5/S1 und beginnender Protrusion der Bandscheibe L4/L5 sowie eines Zervikovertebralsyndroms bei rechtskonvexer Skoliose der HWS erhoben und die Aufnahme einer leichteren Arbeit oder eine Umschulung empfohlen wurde. Auf Anmeldung vom 1. September 1987 kam die Invalidenversicherung für die Umschulung zum Mechatronik-Techniker auf, was aus schulischen Gründen scheiterte. Nachdem medizinische und berufliche Abklärungen ergeben hatten, dass der Versicherte in einer körperlich leichten bis mittelschweren Tätigkeit voll arbeitsfähig und mit entsprechender Motivation rentenausschliessend eingegliedert wäre, lehnte die Ausgleichskasse des Kantons Zürich am 8. Januar 1991 den Anspruch auf eine Invalidenrente und auf weitere berufliche Massnahmen ab. Mit Urteil vom 2. März 1993 bestätigte das Eidgenössische Versicherungsgericht letztinstanzlich diese Verfügung, überwies die Akten jedoch der Verwaltung, damit sie über einen allfälligen Anspruch auf berufliche Massnahmen für die Zeit nach Verfügungserlass befinden konnte. Die Invalidenversicherung übernahm in der Folge die Umschulung auf eine Bürotätigkeit an der Handelsschule X.. Nach Abschluss der Ausbildung fand A._ keine Anstellung und bezog ab 5. Februar 1996 Arbeitslosenentschädigung. Am 19. November 1997 meldete er sich erneut bei der Invalidenversicherung zum Rentenbezug an, wobei er Rückenbeschwerden und psychische Störungen angab. Die IV-Stelle des Kantons Zürich traf nähere Abklärungen und sprach ihm mit Verfügung vom 3. September 1998 eine ganze einfache Invalidenrente, nebst Zusatzrente für die Ehefrau und Kinderrente, ab 1. Oktober 1997 aufgrund eines Invaliditätsgrades von 70 % zu. Als Mitarbeiter der Firma W._ AG war A._ bei der BVG-Sammelstiftung der Rentenanstalt (nachfolgend: Sammelstiftung der Rentenanstalt) berufsvorsorgeversichert. Aufgrund der Erwerbsunfähigkeitsmeldung des Versicherten vom 6. Juli 1988 richtete die Vorsorgeeinrichtung eine volle Rente aus, welche sie nach Ablehnung des Rentenanspruchs durch die Invalidenversicherung auf den 31. Dezember 1991 aufhob. Das gestützt auf die IV-Rentenverfügung vom 3. September 1998 eingereichte erneute Rentenbegehren wies sie am 15. März 1999 mit der Begründung ab, dass A._ bei Eintritt der invalidisierenden Arbeitsunfähigkeit im Oktober 1996 nicht mehr bei der Vorsorgeeinrichtung der Firma E._ AG (vormals Firma W._ AG) versichert gewesen war. Unter dem Namen "Personalvorsorgestiftung der Firma W._ AG" unterhielt die frühere Arbeitgeberin von A._ eine zweite, im überobligatorischen Bereich tätige Vorsorgeeinrichtung, welche mit Vertrag vom 10./12. Juni 1996 von der Sammelstiftung Mythen der "Zürich" Lebensversicherungs-Gesellschaft (nachfolgend: Sammelstiftung der Zürich) übernommen wurde. A._ machte einen Leistungsanspruch auch gegenüber der Sammelstiftung der Zürich geltend, welcher von der Vorsorgeeinrichtung am 6. Oktober 1998 mit der Begründung verneint wurde, dass bereits vor einer allfälligen Aufnahme in die Versicherung am 1. Januar 1996 Invalidenleistungen beansprucht worden seien. B.- Mit Klage vom 17. Dezember 1999 beantragte A._, die Sammelstiftung der Rentenanstalt sei zu verpflichten, ihm ab 1. Oktober 1997 die reglementarischen Invalidenleistungen zu erbringen; eventuell sei die Sammelstiftung der Zürich zur Leistungserbringung zu verpflichten. Zur Begründung des Anspruchs gegenüber der Sammelstiftung der Rentenanstalt führte er aus, die heutige Invalidität sei auf eine seit April 1987 bestehende Arbeitsunfähigkeit zurückzuführen; damals sei er noch bei der Rentenanstalt versichert gewesen. Das Eventualbegehren gegenüber der Sammelstiftung der Zürich begründete er damit, er sei bei Eintritt der Invalidität am 1. Oktober 1997 bei dieser Vorsorgeeinrichtung, welche die Nachfolgerin der Sammelstiftung der Rentenanstalt sei, versichert gewesen. Das Sozialversicherungsgericht des Kantons Zürich trat auf die Klage nicht ein, soweit damit von der Sammelstiftung der Zürich in der Annahme, es handle sich um die Rechtsnachfolgerin der Sammelstiftung der Rentenanstalt, dieselben Leistungen wie von dieser verlangt wurden. Im Übrigen wies es die Klage ab mit der Feststellung, dass weder die Sammelstiftung der Rentenanstalt noch diejenige der Zürich leistungspflichtig sei (Entscheid vom 28. Februar 2001). C.- A._ lässt Verwaltungsgerichtsbeschwerde führen mit dem Rechtsbegehren, der angefochtene Entscheid sei aufzuheben und es seien die Sammelstiftungen der Rentenanstalt und der Zürich zur Ausrichtung der reglementarischen Invalidenleistungen ab 1. Oktober 1997 zu verpflichten. Die Sammelstiftungen der Rentenanstalt und der Zürich beantragen Abweisung der Verwaltungsgerichtsbeschwerde. Das Bundesamt für Sozialversicherung verzichtet auf eine Vernehmlassung. 