Кроме того, если у нас 30 миллионов ЧИСЕЛ (int'ы скажем), то накладные расходы (по памяти) списка будут слишком большие. В отличие от массива.

Вообще, что мешает обернуть оба массива в список? в списке будет ровно два элемента -- первый 30 миллионный массив и втрой миллионный
+ логика для определения к какому массиву обращаться в случае операции индексации.

Т.е. доп. прослойка.