Спамвертайзинг на hetzner, как правильно им ответить, чтобы не заблокировали?
Зная многих знакомых и как блочат сервера по первой жалобе не разобравшись
Если ваши знакомые не смогли найти источник - это не значит, что его нет.

1)для этого необходим установлен и настроенный почтовик?
Нет. Вам вполне могли закинуть скриптец, который умеет отправлять письма без MTA.

2) Как правильно им ответить, чтобы они не заблокировали сервер, на котором админ не прикасался к почтовику. 
Тут главное не отмалчиваться, а выйти на контакт с поддержкой. Им блокировать всех клиентов подряд тоже нифига не выгодно.

Если почта вам не нужна, то можете заблокировать исходящие соединения по 25 (можно и 465 до кучи) порту в фаерволе и об этом и написать. Но лучше поискать откуда могла происходить рассылка и устранить причину. Жалобы совсем без причины если и бывают, то очень редко.
Насколько я знаю термин спамвертайзинг это агресивная спам реклама, не обязательно через почту.
Допустим у меня есть форум, и мне боты туда напостили рекламы некоторого сайта - я могу пойти и пожаловаться хостеру/регистратору этого сайта на спамвертайзинг.

1 напишите им что вы ничем таким не занимались.
2 уточните что жалоба на действия с вашего ип/сервера или в жалоба вам потому что этот сайт хостится у вас
3 если жалоба на действия с вашего сервера - попросите детали, скажите что будете искать проблему
4 как искать зловредов отдельая тема, но обычно вдумчивое чтение списка процесов и иногда анализ исходящего трафика позволяют найти зловредов.