A configuração abaixo é para quem inicia a aplicação pelo executavel startup.bat. Copie a linha abaixo no arquivo startup.bat arquivo:
set JAVA_OPTS=-Dcom.sun.management.jmxremote -Dcom.sun.management.jmxremote.port=3333 -Dcom.sun.management.jmxremote.ssl=false -Dcom.sun.management.jmxremote.authenticate=false
Após inicie a aplicação e faça o teste.
Quando o Tomcat é utilizado como serviço no windows acredito que a solução no link: http://java-monitor.com/forum/showthread.php?t=205 realizada pelo Kess provavelmente funcione, é importante mencionar que não realizei o teste desse ultimo.
Abç