Выполнил работы по договору подряда, заказчик утверждает что сайт не работает по его словам и требует бесконечных правок, как быть?
Заказчик и не должен ориентироваться в веб-технологиях.
Вас только потому и наняли, что специалист в них именно вы, а не заказчик.
Ваш косяк № 1: не прояснили детали с клиентом, а взялись уже. 
Фактически вы выполняли не работу для них, а работу под себя, под те технологии, что интересны вам лично. И по непонятно какой причине понадеялись, что это прокатит.
Но и это можно было бы разрулить, если бы не второй ваш косяк:
Ваш косяк № 2: когда получили первые завышенные ожидания клиента - должны были сразу начать разруливать, а не уходить с обещаниями им помочь с версткой и пр. Тем самым вы показали им, что они могут на вас давить, что вы чувствуйте себя неправым.
Как то вы все криво описали... так вы не получите нормального ответа...
1) какой договор вы подписывали? (трудовой, договор подряда или пр.), лучше скан выложить... от этого зависит то, как вы его можете расторгнуть...
2) читайте раздел ответственности в договоре, и про расторжение и односторонний отказ от договора...
3) если заказчик грозит судом... это сложно будет реализовать прежде всего для заказчика, поскольку чтобы можно было бы что-то доказать нужна будет судебная экспертиза и как правило их стоимость обычно больше 60к, а следовательно экономическая целесообразность сего мероприятия под большим вопросом... 
4) не нервничайте, не пишите тонны писем в ответ, доказывая, что вы хороший... иначе может быть использовано против вас, а все письма от заказчика собирайте, это может пригодиться в последствии...