Есть ли способ с помощью pf заблокировать определенный тип пакетов больше определенного размера?
AFAIC, pf не могу этого сделать. Ты можешь использовать ipfwс iplen вариант:
iplen len-list
Matches IP packets whose total length, including header and data,
is in the set len-list, which is either a single value or a list
of values or ranges specified in the same way as ports.