Как следить за тем, что вводит пользователь в prompt?
Никак, на prompt нельзя навесить никакие слушатели событий. Реализуйте своё модальное окно на html и делайте с ним что хотите.
var rez = prompt ('введите что-то цифровое', '');
if (rez.replace (/\d/g, '').length) alert ('вы ввели не только цифры');