Использование компонентов jQuery в Vue?
Написание собственной директивы или компонента не рассматривали? На vue нет никаких проблем или на крайний случай использовать готовый под vue. ИМХО JQ в vue это извращением попахивает, неожиданными багами и т. д.
Проблема в порядке подключения зависимостей.
Посмотри в сборке как идут jQ и mask. Уверен, маск подключен раньше.