Я писал когда-то распознавалку для phpBB. Принцип таков: Удаляешь все пиксели, цвет которых вроде меньше 137, остаются только цифры без шума. Разделяешь картинку побуквенно и сравниваешь с эталонами. Где больше совпадений - та буква это и есть. Эталоны нужно приготовить заранее - накачать картинок, убрать шум, подписать их все, чтобы было 0,1,2-9, каждой свой файл или строка из 0 и 1. Прикольно еще баловаться с ASCII-представлением картинки
Да еще вот сайт, посвященный этой теме captcha.ru