Как посимвольно сравнить каждую цифру в числе?
Вычисляйте остаток от деления на 10. Получите массив цифр с конца. Ну а дальше сравнивайте соседей и меняйте местами
Книга Алгоритмы "Кормен" вторая глава. Простой сортировочный алгоритм. Именно то что вам надо.
Не трудно найти в pdf формате. В топе поиска сразу.