Что я делаю не так при изменении файловой системы?
1. Что за ошибка?
2. Линух требует не пустого места, а свободного раздела. На пустое место FAT/NTFS его скорее всего поставить не получится :)
делайте по шагам  --1) уменьшить большой раздел, отметить чтобы выполнился и ждем (зеленый флажок и пока передвинет виндовозные файлы для освобождения физич места)...
2)на освободившемся пустом месте создаем новый раздел (ф.с.-му) , кот нужна -- ну , типа ext4, и дальше -- всё через подтверждение выполненных операций.... (учтите -- на новом пустом месте надо уместить все новые разделы  что вам нужны: под / , под свап ...