Faits: A. Par décision du 29 octobre 2010, confirmée sur opposition le 9 novembre 2010, la Caisse cantonale vaudoise de compensation AVS (ci-après: la caisse) a octroyé à S._ des prestations complémentaires pour un montant mensuel de 3'857 fr., en tenant compte d'un revenu hypothétique de son épouse. L'assuré a déféré la décision sur opposition au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, en reprenant le grief formulé dans son opposition, à savoir qu'il n'était pas justifié de retenir un revenu hypothétique de son épouse. Le 11 février 2011, la caisse a informé le Tribunal cantonal du canton de Vaud qu'elle comptait procéder à un nouvel examen du dossier et a demandé à cet effet un délai supplémentaire pour répondre. Le 11 mars 2011, la caisse a déclaré qu'elle allait reprendre le calcul des prestations complémentaires en faisant abstraction du revenu hypothétique attribué à l'épouse, précisant que le recours de l'assuré était ainsi devenu sans objet. Le Tribunal cantonal du canton de Vaud a alors proposé à S._ de retirer son recours, étant donné "l'annulation" de la décision litigieuse par la caisse. La caisse a informé l'assuré que les prestations complémentaires s'élevaient désormais à 4'810 fr. pour l'année 2010, respectivement à 4'888 fr. pour l'année 2011 (courriel du 18 mars 2011). Dans un courrier du 22 mars 2011, l'assuré a déclaré retirer son recours, sous réserve qu'une décision soit prise sur les frais et dépens. B. Par jugement du 25 mars 2011, la Cour des assurances sociales du Tribunal cantonal du canton de Vaud a rayé la cause du rôle par suite de retrait du recours (ch. I du dispositif) et prononcé qu'il n'était pas perçu de frais judiciaires, ni alloué de dépens (ch. II du dispositif). C. S._ interjette un recours en matière de droit public contre ce jugement, dont il demande l'annulation. Sous suite de frais et dépens, il conclut au renvoi de la cause au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, pour que lui soient attribués des dépens dans le sens des considérants. Il a par ailleurs sollicité le bénéfice de l'assistance judiciaire et produit un arrêt de la juridiction cantonale du 20 avril 2011. La caisse intimée s'en remet à justice. Le Tribunal cantonal n'a formulé aucune observation particulière. Quant à l'Office fédéral des assurances sociales, il a renoncé à se déterminer. 