Sachverhalt: A. S._ amtete seit 1993 als einziger Verwaltungsrat der 1985 ins Handelsregister eingetragenen X._ AG. Diese war der Ausgleichskasse des Kantons Zürich als beitragspflichtige Arbeitgeberin angeschlossen. Am 6. Juli 2000 gewährte der Nachlassrichter des Bezirks der Gesellschaft eine provisorische Nachlassstundung von vier Monaten und setzte eine Sachwalterin ein. Am ... 2000 erfolgte die Publikation der Nachlassstundung im SHAB mit Gläubigeraufruf bis und mit ... 2000. Am 23. August 2000 gab die Ausgleichskasse bei der Sachwalterin ihre Forderung für ausstehende Sozialversicherungsbeiträge ein. In der Folge wurde die Nachlassstundung mehrmals verlängert. Die Gläubigerversammlung fand am 19. Juni 2001 statt. Am 4. Juli 2001 reichte die Sachwalterin dem Nachlassrichter ihren Bericht ein. Mit Entscheid vom 27. August 2001 wurde der Nachlassvertrag mit Vermögensabtretung zwischen der X._ AG und den Gläubigern gerichtlich bestätigt. Die dagegen von der SUVA erhobene Beschwerde hiess das Obergericht mit Beschluss vom 1. Juli 2002 gut und verweigerte die Bestätigung des Nachlassvertrages. Die von der X._ AG dagegen erhobene Kassationsbeschwerde wies das Kassationsgericht mit Entscheid vom 7. Juli 2003 ab. Am ... 2003 wurde über die Gesellschaft der Konkurs eröffnet und am ... 2004 mangels Aktiven eingestellt. Mit Verfügung vom 18. Mai 2005 verpflichtete die Ausgleichskasse S._ zur Bezahlung von Schadenersatz in der Höhe von Fr. 439'531.- für unbezahlt gebliebene Sozialversicherungsbeiträge. Die dagegen erhobene Einsprache hiess die Ausgleichskasse mit Entscheid vom 3. Mai 2006 teilweise gut und reduzierte die Forderung auf Fr. 386'702.90. B. Die hiegegen erhobene Beschwerde hiess das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 31. Dezember 2007 infolge Verwirkung der Schadenersatzforderung gut und hob den Einspracheentscheid vom 3. Mai 2006 auf. C. Die Ausgleichskasse erhebt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Rechtsbegehren, der Entscheid vom 31. Dezember 2007 sei aufzuheben und die Sache zur Beurteilung der materiellen Haftungsvoraussetzungen an die Vorinstanz zurückzuweisen. S._ lässt auf Abweisung der Beschwerde schliessen. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung. 