To musi być wina pliku, jakiś parszywy przypadek. Wszystkie dekodery i chyba splittery też, oparte na ffmpeg powodują zamrożenie obrazu albo artefakty. Natomiast wbudowany dekoder microsoftu w Win7 omija błędne klatki - da się ? da
Tak więc użyj avisynth z opcją directshowsource i nie zapomnij wyłączyć kodeka h264 w ffdshow na czas kompresji. U mnie po kompresji w megui dekoder ominął sam błędne klatki a został tylko mały artefakt nie powodujący oczywiście już żadnej zwiechy - zostal on zakodowany.
Gorzej jak masz XP, będziesz musiał poszukać jeszcze innego dekodera który nie jest oparty na ffmpeg.