Поэтому я пытаюсь принимать соединения через порт 80 только с тех IP-адресов, чей обратный DNS-сервер имеет псевдоним CNAME, например, *.test.mydomain.com:
1.1.1.1 решает boo.foo.com
и
*.test.mydomain.com CNAME boo.foo.com
затем примите соединение.
Какие-нибудь советы?
iptables имеет дело с IP-адресами и подсетями, а не с записями DNS.
Вам нужно написать скрипт, который будет выполнять полную передачу зоны (что-то вроде dig -t AXFR test.mydomain.com), проанализируйте полученный файл зоны, чтобы получить из него все CNAME, преобразовать их в IP-адреса и добавить правила в iptables. Затем вы должны поместить этот скрипт в cron.