Как осуществить чтение больших файлов на QT?
У вас просто закончилась память.
32-битному приложению на x86 архитектуре доступно по умолчанию 2 ГБ пользовательской памяти. С учетом того, что в эту же память замплен код самого приложения и библиотек, и фрагментации кучи - числа порядка 1.5 ГБ - практический потолок использования памяти.
Или думайте, как уменьшить расход памяти - или переходите на 64 бита.
Смущает сама постановка задачи.
В Qt нет никаких возможностей для работы с большими файлами (если не ошибаюсь были обертки над mmap для *nix и аналогом для Win)
В общем случае вам надо отобразить большой файл в память для чтения
Отобразить файл для записи 
Читать и писать из источника в приемник
Подход вполне жизнеспособен (существуют альтернативы)
Можно посмотреть в сторону HDF5