Как определить протокол без привязки к порту?
https://www.wireshark.org/lists/wireshark-dev/2008...
....
For example TCP defines port 80 only for the use of HTTP traffic. But, this convention doesn't prevent anyone from using TCP port 80 for some different protocol, or on the other hand using HTTP on a port number different to 80.
To solve this problem, Wireshark introduced the so called heuristic dissector mechanism to try to deal with these problems. 
По ссылке в мейлинг-листе вайршарка дают подробный ответ на этот непростой вопрос.
Тип протокола указан в заголовке в ip пакете. Заголовки описаны в RFC