в BBCB — примерно гигабайтв общем. зависит от версии: если ошибка в Kernel починена — то ~2.5/3 GB. но если забить столько памяти мелкими объектами — то лучше и не рождаться тогда: GC будет занимать совершенно неприличное время. а если хочется один большой массив… то всё равно не надо.

p.s.: старые BBCB имеют ненулевую вероятность порубать весь хип в лапшу и сделать глазки какающей мыши при приближении к гигабайту выделеной в общем. надо ходить опасно. в последних 2.0 вроде как починили по мотивам LC.