Можно ли отследить пользователя, который записывает экран сайта?
Нет.
Если для каждого клиента идёт ватермарк и это видео попадает в сеть можно. Но блин геморно. Лучше выкладывайте видео малыми кусочками, за плату а потом сливайте все в открытый архив. Будете нагонять трафик, ну и новых подписчиков за деньги.