Короче, соорудил приблуду для выставления совсем микрошага сетки и потом ForceToGrid по ней. Не помогло.
Сделал редактирование прямоугольника вьюва на форме в унив. единицах ББ.
При сдвиге криво показуемого вьюва на некоторую величину, меньшую, чем пиксел, оно нормально начинает отображаться и в режиме редактирования, и в режиме Tool Dialog.
Из чего мне кажется, что дело в некой сдвинутости самой зоны документа относительно пикселей.
Может быть, поля документа какие-то в режиме Aux/Doc, которых нет на диалоге...