Sachverhalt: A. Die 1969 geborene T._ war zuletzt als Kassiererin im P._ erwerbstätig gewesen, als sie sich am 7. Mai 2003 bei der kantonalen IV-Stelle Wallis zum Leistungsbezug anmeldete. Mit Verfügung vom 23. März 2004 sprach diese der Versicherten bei einem Invaliditätsgrad von 88 % ab 1. März 2003 eine ganze Invalidenrente zu. Ein von Amtes wegen eingeleitetes Revisionsverfahren wurde von der IV-Stelle mit Mitteilung vom 14. Dezember 2005 abgeschlossen, ohne dass die Rente revidiert wurde. Am 27. Dezember 2007 leitete die IV-Stelle erneut ein Revisionsverfahren ein. Nach Durchführung des Vorbescheidverfahrens hob diese die Rente der Versicherten mit Verfügung vom 27. Mai 2010 auf Ende des der Zustellung der Verfügung folgenden Monats auf. B. Die von T._ hiegegen erhobene Beschwerde wies das Kantonsgericht des Kantons Wallis nach Gewährung des rechtlichen Gehörs mit Entscheid vom 28. Juni 2011 in dem Sinne ab, dass es einen Revisionsgrund verneinte, einen Wiedererwägungsgrund aber bejahte. C. Mit Beschwerde beantragt T._, die IV-Stelle sei unter Aufhebung der Verfügung vom 27. Mai 2010 und des kantonalen Gerichtsentscheides zu verpflichten, die ihr mit Verfügung vom 23. März 2004 zugesprochene ganze Invalidenrente weiterhin auszurichten. Gleichzeitig stellt T._ ein Gesuch um unentgeltliche Prozessführung. Während die IV-Stelle auf Abweisung der Beschwerde schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung. D. In ihrer weiteren Eingabe vom 24. Oktober 2011 hält T._ an ihrem Antrag fest. 