Sachverhalt: Mit Verfügung vom 23. Juli 2003 stellte die Arbeitslosenkasse des Kantons Luzern den 1970 geborenen L._ wegen selbstverschuldeter Arbeitslosigkeit für 34 Tage ab 24. Mai 2003 in der Anspruchsberechtigung ein. Daran hielt die Kasse auf Einsprache hin fest (Einspracheentscheid vom 4. September 2003). Die dagegen erhobene Beschwerde wies das Verwaltungsgericht des Kantons Luzern mit Entscheid vom 21. November 2003 ab. L._ führt Verwaltungsgerichtsbeschwerde mit dem sinngemässen Antrag, die Einstellung in der Anspruchsberechtigung sei aufzuheben. Die Arbeitslosenkasse und das Verwaltungsgericht schliessen auf Abweisung der Verwaltungsgerichtsbeschwerde, das Staatssekretariat für Wirtschaft verzichtet auf eine Vernehmlassung. 