Sachverhalt: A. Der 1952 geborene J._ meldete sich am 30. November / 23. Dezember 2004 bei der Arbeitslosenversicherung zum Leistungsbezug an, nachdem er vom 1. November 2003 bis 30. November 2004 bei der Firma L._ GmbH angestellt gewesen war. In den Anmeldeformularen gab er an, bei dieser Firma keine leitende Funktion ausgeübt zu haben bzw. auszuüben. Im Arbeitsvertrag vom 30. Oktober 2003 wurden seine Aufgaben mit projektbezogener technischer IT und betriebswirtschaftlicher Management Beratung umschrieben. Bereits zuvor war er gemäss der Gründerurkunde der GmbH vom 14. August 2001 bis Ende 2001 als Geschäftsführer mit Einzelunterschrift tätig gewesen. Im Handelsregister blieb er in dieser Funktion bis am 18. Mai 2004 eingetragen, danach noch bis am 4. Juli 2007 als einzelzeichnungsberechtigte Person. Als Adresse der Firma war ebenfalls bis am 4. Juli 2007 die Privatadresse von J._ eingetragen. Stammanteile waren auf seinen Namen keine aufgeführt. Bis am 1. November 2003 war er zeitweilig auch für andere Firmen tätig. Ab 1. Dezember 2004 bezog J._ Arbeitslosenentschädigung. Nach Kenntnisnahme des Berichts des seco über eine bei der Firma am 14. Juni 2006 durchgeführte Arbeitgeberrevision verneinte die Unia Arbeitslosenkasse mit Verfügung vom 21. Juli 2006 rückwirkend einen Anspruch auf Arbeitslosenentschädigung wegen arbeitgeberähnlicher Stellung und forderte zu Unrecht bezogene Taggeldleistungen in der Höhe von Fr. 74'291.05 zurück. Daran hielt sie auf Einsprache hin mit Entscheid vom 26. September 2006 fest. B. Die hiegegen erhobene Beschwerde hiess das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 20. Februar 2008 teilweise gut und änderte den Einspracheentscheid insoweit ab, als es die Rückerstattungsschuld auf Fr. 43'234.65 reduzierte. Zur Begründung wurde angeführt, zurückgefordert werden könnten infolge Verwirkung lediglich noch die innerhalb des letzten Jahres vor Erlass der Rückforderungsverfügung ausbezahlten Gelder. C. Das Staatssekretariat für Wirtschaft (seco) führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Rechtsbegehren, der vorinstanzliche Entscheid sei aufzuheben. Während J._ auf Abweisung der Beschwerde schliessen lässt, verzichtet die Kasse auf eine Stellungnahme. Am 13. November 2008 verstirbt J._, worauf das Verfahren bis zur Mitteilung der Erben und deren Antritt der Erbschaft ruht. Die entsprechende Mitteilung ist am 19. Juni 2009 beim Gericht eingegangen. 