по поводу п1, вот пример правил при котором всё работает отлично, возможно оно не совсем вписывается в логику правил netfilter заложенную вами, но тем не менее
-A PREROUTING -m set --match-set _NDM_OGDN_4_@test dst -m conntrack --ctstate NEW -j CONNMARK --set-xmark 0xffffaac/0xffffffff
-A PREROUTING -m set --match-set _NDM_OGDN_4_@test dst -m conntrack --ctstate RELATED,ESTABLISHED -j CONNMARK --restore-mark --nfmask 0xffffffff --ctmask 0xffffffff
а с тем что появилось в 5а9
-A _NDM_DNSRT_PREROUTING_MANGLE -m set --match-set _NDM_OGDN_4_@test dst --return-nomatch ! --update-counters -j MARK --set-xmark 0xffffaac/0xffffffff
и
104: from all fwmark 0xffffaac lookup 14
нормально маршрутизируется только часть пакетов, mtr tracert и ко показывают красивую картинку, но остальное почти не работает.
т.е проблема явно с метками, а не самой маршрутизацией как таковой
насчет п2
"предпрогрев" бессмысленный и вот почему - для большого количества сценариев интересны поддомены, а эту проблему он не решает вообще никак.