Удаление несуществующего файла с github'а
Наравне с git add для добавления файлов, вы должны делать git rm для удаления файлов.

Единственное, не перед push, а перед commit.
Не совсем понятно, что вы имеете ввиду под словом «залить».

После добавления (создания) репозитория на гитхабе, вам нужно его склонировать, чтобы получить локальный репозиторий. В этом репозитории вы можете удалять файлы, добавлять и т.д… Для удаления файлов можно использовать git add -u или git rm. Потом надо сделать git commit и git push. Тогда изменения попадут в репозиторий гитхаба. Если я вас правильно понял.