Почему перезагружается страница при отправке аякс-формы в popup?
submit,button  - не важно, preventDefault решает
перезагрузки не увидел, однако Ajax у вас сделан через зад так делать не надо
скорее всего связано с тем что у кнопки type="submit" он в любом случае отправляет форму перезагрузив страницу , попробуйте type="button"