Не нужно переводить в ASCII, т.к. все уважающие себя клиенты для подключения имеют два типа ввода пароля: строка и hex. Нужно просто выбрать соотвествующее (а в стандартном виндовом апплете это по-моему даже автоматически распознавалось).