Нет, так и не нашел решения для этого. Сделал проще, повесил алиас для домашнего сегмента, 192.168.1.253, сделал переадресацию в вебморде кинетика с 192.168.1.253:53 на 5300, 5300 порт слушает dnsmasq, который складывает определенные домены (например ютуба) в ipset, все остальные домены резолвит кинетик
И iptables вешает fwmark политики с wireguard на трафик, который идет к хостам из ipset.
Более простого решения, без отключения встроенного резолвера кинетика не нашел.
На нужных устройствах в настройках wifi настройка ip переводится в статику, и прописывается DNS1 192.168.1.253, предварительно отключить DOT/DOH в телефоне. И еще нужно отключить ipv6 на роутере, не смог завести его вместе