Sachverhalt: A. I._, geboren 1944, war bis zu seiner vorzeitigen Pensionierung am 1. Mai 2005 in einem Betrieb tätig, welcher berufsvorsorgerechtlich der Pensionskasse der Firma X._ angeschlossen war. Die Pensionskasse lehnte es ab, ihm vor Erlangen des ordentlichen Rücktrittsalters von 65 Jahren im Jahre 2009 nebst der unbestrittenen Altersrente auch Kinderrenten für die 1990 und 1991 geborenen Töchter auszurichten. B. Das Verwaltungsgericht des Kantons Zug hiess die von I._ eingereichte Klage mit Entscheid vom 30. November 2006 insofern gut, als es feststellte, dass er gegenüber der Pensionskasse für seine beiden Töchter Anspruch auf zwei Pensionierten-Kinderrenten habe, dies im Rahmen der BVG-Mindestleistungen für den Zeitraum vom 1. Mai 2005 bis zum Erreichen der Altersgrenze gemäss AHV-Gesetzgebung. C. Die Pensionskasse wendet sich mit Verwaltungsgerichtsbeschwerde gegen den kantonalen Entscheid und beantragt, die Klage sei vollständig abzuweisen. I._ lässt auf Abweisung der Verwaltungsgerichtsbeschwerde schliessen. Das Bundesamt für Sozialversicherungen (BSV) enthält sich in seiner Vernehmlassung eines Antrages. D. Am 28. August 2007 hat das Bundesgericht eine parteiöffentliche Beratung durchgeführt. 