(Art. 23 Abs. 1 al. 5 und Abs. 2 ANAG), hat sich ergeben: A.- Das Obergericht des Kantons Zürich verurteilte X._ am 9. Juni 1998 in Bestätigung des Entscheids des Bezirksgerichts Zürich vom 6. Oktober 1997 wegen mehrfacher Widerhandlung gegen das Bundesgesetz über Aufenthalt und Niederlassung der Ausländer im Sinne von Art. 23 Abs. 1 al. 5 ANAG, teilweise i.V.m. Art. 23 Abs. 2 ANAG, zu einer bedingt vollziehbaren Gefängnisstrafe von 8 Monaten und zu einer Busse von 80'000 Franken. X._ wird im Wesentlichen vorgeworfen, er habe in den Jahren 1994 bis 1996 mehrere ihm gehörende bzw. von ihm verwaltete Wohnungen in Zürich an illegal in der Schweiz weilende Ausländer vorwiegend albanischer Herkunft vermietet bzw. durch seinen Angestellten A._ vermieten lassen, wobei er gewusst bzw. in Kauf genommen habe, dass sich die Mieter illegal in der Schweiz aufhielten, und er habe auch geduldet, dass die Mieter die Wohnungen anderen Ausländern, die sich illegal in der Schweiz aufhielten, überliessen. Die Wohnungen wären andernfalls leer gestanden. Eine Verurteilung erfolgte in insgesamt acht Anklagepunkten (Anklagepunkte b/cc-gg, c, e/ff-ii, g-j und l). Anlässlich von mehreren Razzien wurden im Jahre 1996 in acht verschiedenen Wohnungen des Beschwerdeführers insgesamt ca. 24 illegal in der Schweiz weilende Ausländer vorwiegend albanischer Herkunft verhaftet. Auch in anderen Wohnungen des Beschwerdeführers wurden illegal in der Schweiz lebende Ausländer festgenommen, doch wurde X._ in diesen Anklagepunkten bereits erstinstanzlich freigesprochen, da die näheren Umstände der Unterbringung dieser Ausländer bzw. das Wissen von X._ darum nicht erstellt werden konnten. B.- Das Kassationsgericht des Kantons Zürich wies die von X._ erhobene kantonale Nichtigkeitsbeschwerde am 17. März 2000 ab, soweit es darauf eintrat. C.- X._ führt eidgenössische Nichtigkeitsbeschwerde mit dem Antrag, das Urteil des Obergerichts sei aufzuheben und die Sache zu seiner Freisprechung bzw. zur neuen Entscheidung an die Vorinstanz zurückzuweisen. Die Staatsanwaltschaft des Kantons Zürich und die Bundesanwaltschaft haben auf Vernehmlassung verzichtet. 