Как убрать часть бордера?
Псевдоэлемент, размером с этот блок с бордером, располагаете абсолютным позиционированием ровно над ним. Дальше у псевдоэлемента делает бордер справа, а сверху не делаете. Вот и все. Похожий пример:snippet
Главное - не забывать про pointer-events: none, чтобы не перекрывался доступ к контенту.
Встаньте два блока с картинкой. Один НАД бордером, второй ПОД.