Nie wiem, czy w twoim przypadku to coś da, ale multum ustawień było w ac3filter
https://www.cdrinfo.pl/download/4141102531
Poczytaj opis, jest obszerny ze screenami, może podpasuje. Ograniczeń sprzętowych nie przeskoczysz, ale pobawić się możesz.
Miałem to ponad 10 lat temu razem z ffdshow, więc za wiele nie pamiętam, ale pokombinować szło.