Kodowanie do MPEG-2 jest procesem stratnym. Nie da się więc skompresować do mpeg(1|2|4) bez utraty jakości.
Czym oglądasz ten wygenerowany strumień video? Przypomnij (sobie i nam) jak skonfigurowałeś enkoder.
Te efekty, które opisujesz to najprawdopodobniej przeplot. Większość programowych odtwarzaczy automatycznie go usuwa ale może akurat ten Twój nie. Przeplot sam w sobie nie jest zły (normalny obraz telewizyjny również ma przeplot). Gorzej jak się nie weżmie pod uwagę tego przeplotu przy przekodowywaniu.
Właśnie zauważyłem, o którym artykule pisałeś... Może lepiej zerknij na
ten artykuł ^_^