Sachverhalt: A. X._, geb. 1962, begann im Jahr 1982 nach Abschluss seiner Maturität ein Geographie- und Musikstudium, das er nach einem Jahr abbrach. Seither ist er als Journalist tätig. Im Frühjahr 2006 nahm er das berufsbegleitende, anderthalbjährige Nachdiplomstudium "Philosophie und Management" an der Universität Luzern auf. Hierzu erwuchsen ihm 2006 Auslagen von insgesamt Fr. 10'199.-- (Studiengebühren Fr. 8'800.--, Literatur Fr. 211.--, Reisespesen Fr. 170.--, Verpflegung und Übernachtungen Fr. 1'018.--). B. Für die Staats- und Gemeindesteuern 2006 liess das Kantonale Steueramt Zürich die von X._ geltend gemachten Weiterbildungskosten von Fr. 10'199.-- nur im Umfang der Ausbildungspauschale von Fr. 400.-- zum Abzug zu. Das wurde von den kantonalen Einsprache- und Rechtsmittelbehörden bestätigt, letztinstanzlich vom Verwaltungsgericht des Kantons Zürich mit Entscheid vom 4. November 2009. C. Am 1. Februar 2010 hat X._ Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht eingereicht. Er beantragt im Wesentlichen, den verwaltungsgerichtlichen Entscheid aufzuheben und die im Zusammenhang mit seinem Nachdiplomstudium angefallenen Kosten bei der Staatssteuer 2006 als Gewinnungskosten anzuerkennen. D. Das Kantonale Steueramt Zürich und das Verwaltungsgericht des Kantons Zürich schliessen auf Abweisung der Beschwerde. Die Eidgenössische Steuerverwaltung hat auf eine Vernehmlassung verzichtet. 