Странная обработка Апачем .htaccess-а
Internet Explorer has a lightly-documented “feature” that stops it from serving any custom 404 error page that is less than 512 bytes long. Your visitors will instead be sent to IE’s own 404 page (screenshot), which is generic and suggests they use an MSN search to “look for information on the Internet.” That’s one way to lose visitors! Make sure your custom 404 error page is over this limit — about 10 full lines of text and HTML should be enough.

Похоже, нужно, чтобы размер страницы был побольше, чем 512 байт.
Ппц, похоже так и есть, добавил текста, ссылок и прочего и все стало работать. Один файл конечно все равно меньше чем 512 байт, но все равно стал корректно отображаться.
Капец, теперь я кажется понимаю почему IE так не любят веб-девелоперы, начал учиться разработке, в качестве браузера использую IE9, и это уже второй косяк который все остальные браузеры обрабатывают корректно.