Стоит ли делать регистрацию в модальном окне jQuery?
Учитывая что сейчас большинство трафика с мобильных устройств - не советую делать модальные формы - это ужасно неудобно, их поведение отличается от адаптивного дизайна, их сложно масштабировать. Можете сделать и попробуйте зарегистрироваться - каждая сложность с которой вы столкнетесь это минус к числу общих регистраций.
Принципиальных проблем быть не должно, особенно если форма не очень большая + множества всяких других потенциально всплывающих окон.
Короче говоря иходи из удобства, если все вмещается в самый распространненый экран по высоте, то можно вобще не париься. а иначе подумать.
Лично у меня в последних проектах почти все формы регистрации модальные окна.(но всегда делаю дубляж и отдельной страницы, на случай отключенных скриптов или еще какого-либо коллапса/глюка)