Я планирую установить Nagios, но не уверен, есть ли пакет для pfsense, или я могу установить отдельно от pfsense, но на той же машине?
У кого-нибудь был опыт с этим?
Вторая часть моего вопроса: куда мне поставить Nagios, поскольку я запускаю одну машину, на которой я установил pfsense, за этой же машиной работает сервер, который находится в зоне DMZ.
Нет, не надо этого делать.
Пусть ваш роутер будет роутером и установите nagios в другом месте. Установка дополнительного, нестандартного программного обеспечения на устройство не только снижает безопасность платформы, но также создает множество сложностей при выполнении обновлений.