В каком виде хранится PIN-код SIM-карты?
Нельзя
В очень приближенной модели можно рассматирвать сим-карту как отдельный компьютер с фиксированным набором возможных действий. 
Одно из действий пройти авторизацию. 
В алгоритме проверки пин кода после трех неправильных попыток ключ хранящийся внутри катры стирается и ни один из возможных входящих пин кодов больше не подходит.
Чтобы взломать такую систему есть два пути:
1) Найти ошибку в алгоритме проверки. Возможные вектора атаки: используя набор доступных методов, их комбинации, либо вызовов методов в неправильными входными данными, либо не завершая посделовательность действий заставить карту (компьютер) работать неправильно. Требует огромных заний во внутреннем устройсте сим карт, алгоритме проверок и т.д. Знания можно получить либо из секретной внутренней документации либо путем реверс инджинеринга внутреннего устройства. Если алгоритм реализован правильно - этот путь взлома не даст результата
2) Физическая атака на сим карту. Грубо говоря разобрать компьютер и прочитать данные в обход стандартных методов. В данном случае неважно что будет прочитано хеш или сам пароль. Если есть физический доступ в память можно восстанавливать состояние памяти после каждой проверки пин кода и тогда алгоритм будет думать что это каждый раз первая попытка ввода. Но это безумно сложный и дорогой путь для влома. Грубо говоря потребуется 
сканирующий туннельный микроскоп для взаимодействия
В общем случае реальные шансы взломать ничтожно малы, а сам взлом безумно дорог.
https://ru.wikipedia.org/wiki/A3_(шифр)