Как rsync сжимает при передаче данных?
Не будет ли он на сервере создавать какие то архивы?
Нет. rsync -z сжимает на лету.
Из man rsync:
--compress, -z
              With this option, rsync compresses the file data as it is
              sent to the destination machine, which reduces the amount
              of data being transmitted -- something that is useful over
              a slow connection.
Просто на сервере дай бог 10 гб свободного места осталось. Не будет ли он на сервере создавать какие то архивы?
А передать надо много, гб 200
Можешь отдельно заархивировать кастомным архиватором и порезать на тома и добавить контрольные суммы для восстановления.
200 Гб - это тот размер когда стоит дополнительно сделать проверки на целостность.