Как изменять нумерацию div при добавлении и удалении?
Перестаньте заниматься ерундой и замените div'ы на ol + li.

Ну или хотя бы через css сделайте.#itemInner {
  counter-reset: bullshit-counter;
}
.row {
  counter-increment: bullshit-counter;
}
.row::before {
  content: counter(bullshit-counter) "!!!";
}
А если всё-таки намерены продолжать говнокодить, то......долой счётчик itemLength, устанавливайте значения заново после каждой вставки/удаления:

itemInner.find('.item-num').text(i => i + 1);
let itemInner = $("#itemInner");
        var itemLength = $("#itemInner.row").length;

        $("#addItem").click(function (e) {
            e.preventDefault();
            itemLength++;
            var addedRow = `
                <div class='row '>
                <div class='item-num'>${itemLength}</div>
                <button id='deleteItem'><img src="/img/icons/delete.png"></button>
                </div>
            `;
            itemInner.append(addedRow);

            // Меняем кол-во
            $("#count").text(itemLength);
        });

        itemInner.on("click", "#deleteItem", function (e) {
            e.preventDefault();
            $(this).closest("div").remove();
            itemLength--;

            // Меняем кол-во
            $("#count").text(itemLength);
        });

        // Отслеживаем изменения кол-ва
        $("#count").bind("DOMSubtreeModified",function(){
            // Переписываем нумерацию            
            $(".item-num").each(function(i, elem) {
                $(elem).text(i+1);
            });
        });