Насколько резонно подключать библиотеки для таких вещей как модалка, маски и тд?
Вопрос философский и зависит от различных факторов. Иногда, действительно, легче написать какой-то компонент самому. Особенно если сайт простой. А вот для больших проектов, где требуется производительность, модульность, к примеру, можно и подключить готовую библиотеку.

Как лучше - решать всегда вам. Вы являетесь разработчиком и только вы знаете себя лучше других - сможете написать хороший компонент или нет.

Лично я использую библиотеки для более-менее крупных проектов, которые со временем будут только расширяться. Для одностраничников 50/50. Всё зависит от требуемой скорости разработки.
Если это ваш личный проект и вы не хотите сильно заниматься  модалкой, маской и тд.. Тогда вполне можно использовать библиотеки. Если проект большой и который нужно изменять периодически, тогда ручками нужно писать код и кастомизировать.