Как сделать появление Pop-up после отправки формы?
аяксом отправлять и слушать ответ, как я понимаю только так...
например:<form method="post" id="myform">
        <input type="text"  placeholder="Your name" autofocus required pattern="[a-z]{1,15}"/> 
        <input type="text" placeholder="Phone-number" required pattern="[0-9]{6,15}"/>
        <input type="email" placeholder="Email" required/> 
        <input class="button" type="button" onclick="sendMyForm();"  rel="reg_form" value="request call"/>
</form>

<script type="text/javascript" language="javascript">
 	function sendMyForm() {
 	  var msg   = $('#myform').serialize();
        $.ajax({
          type: 'POST',
          url: 'res.php',
          data: msg,
          success: function(data) {

    $('.popup').fadeIn(500);
    $("body").append("<div id='overlay'></div>");
    $('#overlay').show().css({'filter' : 'alpha(opacity=80)'});

          },
          error:  function(xhr, str){
	    alert('Возникла ошибка: ' + xhr.responseCode);
          }
        });
 
    }
</script>
надо вешать обработчик не на клик кнопки, а на submit формы:$("form").submit(function(){
// валидируем форму;
// отправляем данные на сервер;
// показываем попап;
return false // предотвращаем отправку формы и перезагрузку страницы
}) Как вариант, можно показать попап при отправке, потом при ответе от сервера в том же попапе показать результат, типа данные успешно отправились или ошибка.
Кстати, в обработчике сабмита в качестве this будет элемент формы, и очень просто получить доступ к полям: this.inputName.value - это значение содержащегося в форме 
и ещё, что это за каменный век .css({'filter' : 'alpha(opacity=80)'})? Если даже хочеться, чтоб ие8 показывал, достаточно написать .css({'opacity' :80)}) - jQuery сам разберётся, если это ИЕ8- и задаст фильтр. Или .fadeTo(0, 80) - тогда даже show() можно не писать..