Как рассчитать расстояние от курсора до краев дива?
Есть самый простой вариант.
Узнать позицию дива.
Узнать его высоту ширину.
И при каждом движение мыши делать проверку входит ли позиция курсора в эти данные.
Скорее всего для вашей задачи этого не нужно, но раз вы задали такой вопрос, то вот:$('.hover').mouseover(function(){ //Понимаете, что обработчик mousemove стартанет только когда вы наведете на элемент.
      var $el = $(this);
      $(document).mousemove(function(e){
    	var X = e.pageX; // положения по оси X
    	var Y = e.pageY; // положения по оси Y
      if(
      !(//Уберете эту строчку и закрывающую скобку не забудьте, то условие инвертируется. 
      Y > $el.offset().top && 
      Y < $el.offset().top+$el.height() &&
      X > $el.offset().left && 
      X < $el.offset().left+$el.width()
      )
      ){
          	//Код который будет выполнятся, когда курсор вне блока
            console.log('Курсор вне блока');
      }
    
});    
    });