Как привязать субдомен с другому серверу?
Прописать в DNS разные IP для разных доменов:
domain.com. IN A IP1
shop.domain.com. IN A IP2
К комментарию qmax 
У вас должен быть root доступ к серверу, а не виртуальный хостинг который может не разрешить поменять у субдоменов Ip