Что там кешировалось то?

Соответствие текущей позиции в тексте элементу piece table?
Если да, то разница может быть замента, если в документе было очень много редактирований (например, где-то вставили символ, удалили символ, вставили символ и т.д. и так 10000 раз, а текущая позиция находится после этих редактирований, тогда не надо будет проходить 10000 элементов списка, чтобы найти элемент, который соответствует текущей позиции).