Sachverhalt: A. Die 1955 geborene H._ arbeitete vom 1. Oktober 1971 bis 31. Dezember 2005 bei Firma Y._ und war für die berufliche Vorsorge bei der Personalvorsorge X._ (im Folgenden: Pensionskasse) versichert. Am 19. Juli 1996 erlitt sie bei einem Auffahrunfall eine Distorsion der Halswirbelsäule. Die Zürich Versicherungsgesellschaft (Zürich), bei welcher H._ obligatorisch gegen Unfälle versichert war, erbrachte die gesetzlichen Leistungen. Gestützt auf ein Urteil des Bundesgerichts vom 27. November 2008 (8C_116/2008), mit welchem dieses eine Beschwerde der Versicherten betreffend den Anspruch auf eine Invalidenrente der Unfallversicherung gutgeheissen und die Sache zu weiteren Abklärungen im Sinne der Erwägungen an das Verwaltungsgericht des Kantons Zug zurückgewiesen hatte, gewährte dieses H._ nach zusätzlichen Abklärungen mit Entscheid vom 12. November 2009 ab 1. Juli 2003 eine Invalidenrente der Unfallversicherung auf der Grundlage einer Erwerbsunfähigkeit von 44 %. Diese Rentenzusprechung blieb unangefochten. Gestützt auf diesen kantonalen Gerichtsentscheid gelangte H._ am 14. Januar 2010 an die Pensionskasse X._. Sie ersuchte um die Wiederaufnahme in die Kasse, Nachzahlung einer Invalidenrente und Gutschrift der Prämienbefreiungsleistungen ab 1. Juli 2003. Die Pensionskasse lehnte diese Anträge ab. B. Am 23. Februar 2010 liess H._ beim Verwaltungsgericht des Kantons Zug Klage einreichen mit dem Rechtsbegehren, es sei festzustellen, dass sie weiterhin Mitglied der Pensionskasse X._ ist und Anspruch auf Weiterführung der Altersleistungen sowie eine Invalidenrente entsprechend einer Invalidität von 44 % hat. Mit Entscheid vom 11. November 2010 wies das Verwaltungsgericht die Klage ab. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt H._ die vorinstanzlich gestellten Anträge erneuern. Während die Pensionskasse auf Nichteintreten auf die Beschwerde, eventuell auf deren Abweisung, schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung. 