Jeśli w tym MKV jest wideo AVC, to konieczne może być skorzystanie ze skryptu Avisynth albo potraktowanie strumienia AVC programikiem AVC2AVI bądź skorzystanie z FFmpeg lub MEncoder.
W jakim celu zmieniasz rozdzielczość?
Odnośnie filtru... dość ciekawy jest
Smart Resize.
Nie korzystaj z domyślnego trybu
nearest neghbor - inne są 'wolniejsze' ale efekty będą lepsze.