Как опубликовать обновление плагина для WP, если он не имеет обратной совместимости?
После обновления вешаете сверху админки нотис с уведомлением о необходимости обновить данные и кнопкой запуска обновления.  По кнопке запускаете обновление.  Например у  WooCommerce так сделано
Я бы реализовал следующим способом. 
1) Спокойно заливаете обновление в репозиторий
2) Либо как вам уже подсказали добавляете notice, с просьбой нажать на кнопку для запуска обновления или же после обновления плагина автоматически запускаете этот процесс.
3) адаптируете БД под новое обновление, удаляете старую таблицу