Sachverhalt: Mit Verfügung vom 21. August 2000 forderte die Öffentliche Arbeitslosenkasse des Kantons Solothurn von K._ (geb. 1945) einen Betrag von Fr. 1412.60 an zu Unrecht ausbezahlten Arbeitslosenentschädigungen zurück. Auf Beschwerde von K._ hin erliess die Kasse am 31. Oktober 2000 pendente lite eine Verfügung, mit welcher sie die Rückforderung auf Fr. 3192.30 erhöhte. Die auch hiegegen erhobene Beschwerde wies das Versicherungsgericht des Kantons Solothurn mit Entscheid vom 23. April 2001 ab, soweit sie nicht gegenstandslos geworden war. Die dagegen eingereichte Verwaltungsgerichtsbeschwerde hiess das Eidgenössische Versicherungsgericht mit Urteil vom 13. Februar 2002 insofern gut, als es die Sache an die Arbeitslosenkasse zurückwies, damit sie im Sinne der Erwägungen verfahre. Hierauf verfügte die Kasse am 27. Juni 2002 erneut eine Rückzahlung über Fr. 3192.30. K._ focht diese Verfügung wiederum an. Mit Entscheid vom September 2003 reduzierte das Versicherungsgericht des Kantons Solothurn die Rückforderung auf Fr. 3030.-. Mit Verwaltungsgerichtsbeschwerde beantragt K._ sinngemäss, die Rückforderung sei auszuheben; vielmehr habe die Kasse ihm Fr. 400.32 nachzuzahlen. Die Arbeitslosenkasse und das Staatssekretariat für Wirtschaft (seco) verzichten auf eine Vernehmlassung. 