To spróbuj w kliencie wpisać IP:port na którym postawiony jest serwer, bo bez tego prawdopodobnie łączy się na standardowym porcie, który w Twoim przypadku jest nieużywany przez serwer
A porty java viewer'a przekieruj, jeżeli chcesz korzystać z vnc z poza domu używając przeglądarki...
__________________
|