Você não pode usar o console JMX com uma senha criptografada. Apenas a senha de texto simples é permitida; essa restrição é devida à classe com.sun.jdmk.comm.AuthInfo.
 
No entanto, você sempre poderá restringir o acesso a esse recurso com a ACL para que apenas os administradores tenham acesso a ele.