Как называются правила для создания дизайна в дизайне?
Гайды, гайдлайны, guidelines. Например, у Apple это называется Apple Human Interface Guidelines. 
У Android есть Material Design Guidelines.
...UI-кит