Как работают и для чего нужны PTR записи?
1. Домен IN-ADDR.ARPA это реальный физический домен, который где-то находится, и обслуживается реальными людьми, или это абстрактное название, которое просто зарезервировано под использование для E-Mail, наравне с 192.168..., 172.27... и 127.0.0.1?
in-addr.arpa — реальный существующий домен. PTR — понятие DNS, к email оно имеет только косвенное отношение (email использует ptr-записи для ip-адресов).
Когда вы делаете traceroute на какой-то IP-адрес, имена доменов, которые вы видите в выводе, получаются путём запроса PTR-записи IP-адреса:
traceroute to ya.ru (87.250.250.242), 30 hops max, 60 byte packets
 1  _gateway (192.168.101.1)  49.797 ms  119.433 ms  119.416 ms
 2  hosted-by.yourserver.se (95.215.45.5)  119.308 ms  119.242 ms  119.179 ms
 3  stk-tct-cr3.be22-1841.rascom.as20764.net (81.27.252.200)  166.091 ms  165.839 ms  165.776 ms
 4  * * *
 5  178.18.226.119.ix.dataix.ru (178.18.226.119)  165.459 ms  165.345 ms  165.312 ms
 6  * ya.ru (87.250.250.242)  79.669 ms *
PTR был, пожалуй, первой технологией защиты от спама со взломанных серверов или недоверенных сетей, но только потому, что его «нетривиально» сменить в общем случае, когда у совершающего рассылку нет на это полномочий.

2. Почему в PTR записях IP адреса записываются в обратном порядке? Какой в этом смысл?
Лёгкость хранения «обратного» дерева в памяти DNS-сервера, быстрый поиск записей. Скорее, технологическая особенность 80-х, а не необходимость.

3. Есть ли какой-то софт, позволяющий моделировать сети, скажем поднимать несколько виртуальных машин, и настраивать им разные роли. Например одну сконфигурировать как провайдера, другую как просто компьютер и т.д, чтобы наглядно моделировать взаимодействие в сети интернет, и больше не задавать подобные вопросы здесьЗависит от того, что конкретно вам нужно моделировать. См. в сторону Cisco Packet Tracer, gns3.
PTR запись делается на стороне владельца IP и должна указывать на hostname сервера.
На стороне DNS домена должна быть A-запись (hostname) на этот IP.
Логика из названия Reverse DNS или обратная DNS запись.