Можно ли изолировать сетевое устройство от остальной части LAN через его MAC-адрес?

Я знаком с созданием VLAN на основе помеченного порта сетевого коммутатора, но возможно ли это, узнав MAC-адрес устройства?

Да, возможны сети vLAN на основе MAC. Это зависит от возможностей вашего коммутатора. Вы создаете MAC-адрес для карты vLAN.

Вот пример Netgear, он есть и у Cisco, как и во многих других, я уверен.