С чего начать при создании серверной части для мобильного приложения?
Нужно RESTfull API реализовать.
Вот вопрос заключается как и на чем лучше для конкретного решения.
Какое РНР, и на чем сайт написан ?
В случае CMS/CMF - нужно искать или писать плагины для них.
В случае с РНР5.2 и Yii-образными сайтами все довольно посредственно, хотя есть тутор.
В случае с РНР5.3 люди часто используют swagger c silex'ом.  
Ну и на symfony2 можно поискать бандлы, хотя обычно люди делают вот так
Вам нужно написать например RESTful API, через которое приложение будет общаться с сайтом. С этого и "надо начинать".
Ну а как его писать - это уже отдельная тема. Я бы выбрал Symfony + FOSRestBundle, но это, скажем так, как минимум средний уровень знания PHP.