Как изменить разрешение в virtualBox до установки ОС?
В настройках виртуальной машины предлагается на выбор несколько графических драйверов. Стоит попробовать другие - глядишь, "кривое разрешение" перестанет быть помехой.
Попробуйте к ядру в загрузчике добавить video=1280x1024, иногда графика потом это разрешение подхватывает