Как настроить отправку формы на сервер в mysql с помощью ajax?
Во первых:
$("#form").submit(function(e) {e.preventDefault();
    $.ajax({ ...
иначе форма будет пытаться засубмититься через раз( ретурн фалс не всегда срабатывает).
во вторых - консоль браузера смотрите, что уходит, что возвращается. По уму сервер по завершении работы должен отчитаться - "все ок", или "шеф, фсе пропало!".  И уже о этого можно отталкиваться в яваскрипте что писать в алерт.
В третьих так же неплохо проверить что данные попадают в нужный скрипт, а то у вас довольно фривольно указан адрес куда аякс должен стучаться. Скорее всего скрипт тупо не понимает адрес который прописан, указывать нужно от корня сайта, например "/addguestbook.php"
Дополнительно:
мне кажется тут с полями что то не то 
$result=mysqli_query($connect,"INSERT INTO mytable(name, email)VALUES('$name', '$phone')");