Какие ресурсы штудировать, чтобы разобраться в Android UI?
С техническими возможностями Appcompat и прочих библиотек помогут разобраться официальная документация, сайты типа StartAndroid или сайт А. Климова, и разные примеры кода, а пользоваться ими для решения ваших задач, это приходит исключительно с опытом, нигде нет готовых советов индивидуально для вас, ну если только курсы платные какие-нибудь.
guides.codepath.com/android#designing-and-styling-views
Список мини гайдов по UI.