Можно ли переопределить метод в скомпилированной программе?
Экстендите классы и переопределяете нужные методы.
в скомпилированной программет.е. исходников нет но развивать как то надо?
декомпилируешь и развиваешь

к сожалению полностью автоматически и нахаляву может не получиться, обратная сборка получаемых исходников декомпиляторами с высокой вероятностью не сработает и потребует серьезной переделки, но как начало, почему нет... особенно если речь идет об возможностью переиспользовать готовый алгоритм

Гуглится десятки проектов-декомпилеров, советую самостоятельно в них разобраться.
java decompiler