Sachverhalt: Mit Verfügungen vom 3. Juni 2002 verneinte die Öffentliche Arbeitslosenkasse des Kantons Wallis den Anspruch von T._ (geb. 1965) auf Arbeitslosenentschädigung ab 1. Mai 2001 und forderte bereits ausgerichtete Leistungen im Betrag von Fr. 8699.95 zurück. Die dagegen erhobene Beschwerde wies die Kantonale Rekurskommission in Sachen Arbeitslosigkeit des Kantons Wallis mit Entscheid vom 30. August 2005 hinsichtlich der Rückforderung ab, bezüglich der Anspruchsberechtigung ab 1. Mai 2001 hob die Rekurskommission die entsprechende Feststellungsverfügung auf. T._ führt Verwaltungsgerichtsbeschwerde mit dem sinngemässen Antrag es sei die Rückforderung aufzuheben. Die Arbeitslosenkasse und das Staatssekretariat für Wirtschaft (seco) verzichten auf eine Vernehmlassung. 