Как просчитать координаты поворота двух объектов, чтобы сохранить их положение друг относительно друга?
"Pivot point" на англ. – это точка, относительно которой поворачивают. См. wiki:Поворот.
Чтобы относительное расположение двух фигур сохранилось при повороте, надо, чтобы "пивоты" обеих фигур совпадали.
Из вопроса пока не понятно, что дано, и что надо найти. Но, предположим, даны две фигуры, красная (К) и чёрная (Ч), и надо повернуть обе относительно центра красной.
С красной всё понятно. На чёрной надо будет найти положение центра К до поворота. И повернуть Ч относительно этой точки.
Вращайте систему координат чёрного блока.
Т.е., Вы должны учитывать свойства объектов в нужной системе координат - иерархически: так, как они наследуют свойства (вращения, растяжения и т.д.).
Когда один объект - это его система координат.
Когда группа - вычисляется относительная система координат для всех связанных дочерних объектов и затем происходит её вращение и т.д.