Hallo Bromer,
ich hatte vor einiger Zeit genau die gleichen Probleme(Replikationsfehler über IPSec-VPN). Ich habe lange gesucht bis ich auf die Lösung gekommen bin. Problem bei mir war die MTU Size.
Link
Man kann beim Win2k3 über ein Hotfix die MTU Size testweise mal auf 500 setzen. Wenn Du den Link brauchst, dann such ich mal danach.
Grüße