Если все кусочки рисуются одинаковым способом, то непонятно, почему такое происходит.

Для отображения элементов управления в псевдо-3Д на границах элементов дорисовывают кромки. Если есть возможность отключить их показ, то можно попробовать запустить ToolDialog без них и посмотреть, всё ли нормально отображается. Есть подозрение, что можно рисовать, делая отступы от края холста с учётом этих кромок и без этого учёта.