Tak, w ustawieniach trzeba ustawić "use gpu acceleration when available".
Ale nie wiem jak to jest na Windows, bo pod Linuksem to zupełnie inna bajka i niestety nie działa tak dobrze.
Tam VLC komunikuje się z VAAPI, które przy pomocy interfejsu VAAPI-XvBA komunikuje się poprzez XvBA ze sterownikiem karty graficznej ATI.
Z kolei na nVidiach zamiast XvBA jest VDPAU.
Jak widać standaryzacja pierwszej klasy
Do odtwarzania przez GPU na Windowsie polecam taki mały fajny programik "Splash Lite".