Как сделать чтобы пароль срабатывал по кодировке MD5?
MD5 - это не кодировка, а хэш-функция.
Надо при реге кодировать, и писать в базу уже закодированный пароль а лучше использовать функцию pasword_hash
з.ы. htmlspecialchars - тут лишняя... она нужна при выводе в документ, для mysql такой код не страшен