Как обновить на сервере nginx?
1. В debian/control укажите другое название ( например nginx-kkoshakk ), чтобы он не пересекался с дистрибутивным, поправьте названия файлов .postinst. .dir и т. п., чтобы название соответствовало имени пакета и пересоберите.
Перед установкой вашего пакета лучше сделать apt-get purge nginx (предполагаю, что у вас уже есть резервные копии конфигов), чтобы не возникло конфликтов в конфигах.
2. Можно проще: apt-mark hold nginx
при обновлении nginx через менеджер пакетов все, что я добавил пропадет и нужно будет собирать заново? 
Пропадёт (скорее всего).
А не нужно было собирать из исходников ;-)