Возможен ли универсальный абстрактный алгоритм подхода к решению нетривиальных задач?
Нетривиальные задачи на то и нетривиальные, что для них не существует общего метода решения. Обычно просто надо посмотреть на задачу под нужным углом, чтобы решение пришло само!
Упростить задачу до безобразия и/или представить её по другому и опять упростить до безобразия, после чего включается мозг и "подсвечивает" возможные пути решения.