С чего начать изучение автоматизированного тестирования мобильных приложений?
У Appium на гитхабе есть примеры под твой язык. Поищи.
Appium штука не сложная. Работает по протоколу Selenium. Добавляет свои штуки, вроде ui automation (ios)/ ui automator (android) селекторов. Еще умеет запускать симулятор и ставить на него приложение. Пожалуй и все.
> как в принципе проводить автоматизированное тестирование
Очень просто:
* Написать фреймворк.
* Написать тесты.
* Поднять среду для их выполнения.
* Гонять тесты по графику и постоянно писать новые.
Нет знаний > запишись на курсы по автоматизации. 
lessons2.ru  - как вариант, тут много чего есть по теме.
automated-testing.info - читай тут тоже
paypal.github.io/SeLion - Селайн - добротный фреймворк под Java