Может ли «сайт» узнать, что я использую VPN или прокси-сервер? Как он выявляет это?
Конечно может. 
Геолокация показывает, что IP штат Вирджиния, США. А часовой пояс установлен в UTC+3 (Москва). Вряд ли чувак из штата Вирджиния будет ставить себе часовой пояс UTC+3, а вот наоборот запросто.
Геолокация показывает, что IP Франция, а установленные в системе языки - русский, английский. Это конечно более слабое допущение - это вполне может оказаться русский фрилансер, но на заметку берется
MSS меньшего размера, чем может быть при простом Ethernet - потому что VPN имеет свой заголовок и его куда-то надо писать. Причем по размеру MSS можно даже предположить, что за туннель используется - потому что для IPSec - он один, а вот для GRE - другой.
Это то, что первым в голову пришло...
fingerprint и подобные метки
избежать   - закосить под нормального техническими средствами