Как оформить визуальную часть php страницы?
В том и проблема, я не понимаю как сделать что б тут:if ($success){
  echo "Success";
  
}
else{
  echo "Error";
}

header('Refresh: 5; URL=http://mysite.net/index.html');
Вместо Success или Error, выдавало заготовки моих html страниц под это, а не просто слова в окне браузера. И что б эти странички висели и потом редиректило на Главную.
Начнем с того, что заголовки скорее всего не сработают, если вы перед ними уже выводили какой-то текст (для этого текста будут сгенерированы ДРУГИЕ заголовки). Поэтому ваш header('Refresh: ...') нужно перенести в начало.
Далее, на счет "оформить визуальную часть php страницы".
Я тут погуглил немножко, оказывается в браузерах в основном используют язык разметки html и каскадные таблицы стилей (CSS). Если вывести вместо echo "Success"; какой-то html  код, типа такого  <!DOCTYPE html>
<html>
   <head>
      <meta http-equiv="Content-Type" content="text/html; charset=utf-8" />
      <title>HTML Document</title>
   </head>
   <body>
      <p>
         <b>
            Этот текст будет полужирным, 
            <i>а этот - ещё и курсивным</i>
         </b>
      </p>
   </body>
</html>
То текст будет не просто текстом, а оформленной страницей.
Конечно, чтобы не превращать ваш код в лапшу, лучше не писать эту простыню внутри if-а, а вынести в отдельный файл, и использовать include или require, как советует riot26.
А когда наиграетесь, почитайте про routing в php, про модель MVC и шаблонизаторы.  Поверьте, когда в проекте больше трех страниц, эти штуки уже не будут лишними.
После того как сохрнил запись в базу
делаешь редирект на нужную страницу header("Location: http://example.com/myOtherPage.php");
die();
где example.com/myOtherPage.php твоя страница