Как избежать увеличения автоинкремента при неуспешном запросе?
Никак.
Сиквент гарантированно уникальный и не транзакционный. Ничего о последовательности выдачи значений и уж тем более без пропусков он не говорит.
Проверяйте логин и емайл перед действием. Нет => инсерте. Есть => ошибка