Какие бывают библиотеки для лицензирования, и бывают ли?
Я бы посоветовал посмотреть открытые части VmProtect (там и на PHP версия есть, и на C++). Они связаны именно с лицензированием.
А также поискать где-то структуру VmProtect’овского hardware ID.
Закрытые части, связанные с защитой лицензий от взлома и собственно виртуальной машиной, которая и дала название защите VmProtect, вы вряд ли найдёте. Да и вообще защита от копирования не может быть опенсорсной.
Опенсорсной (при этом хорошо защищающей) не может быть по определению. Либо пишишь сам какую-то систему лицензирования, которую сможет взломать любой мамкин хакер, либо покуаешь  (вернее, арендуешь) систему защиты с предоставляемой инфраструктурой для продажи лицензионных ключей. 
Ищи в сторону защиты и обфускации приложений. Без этого от лицензионных ключей никакого толку нет.