Без опыта конкретной разработки фантазировать о специализации - это ни о чем.
Опыт показывает, что программисты обычно никогда не знают, какие 20% программы делают 80% работы.
Только конкретные измерения это показывают.
Так что без реализации - никак.
Кто писал конкретные компиляторы на существующей архитектуре, тот может свой опыт проанализировать и обобщить.
И это было бы интересно почитать: в каком месте архитектура компьютера ставила ему подножки.