Как написать видео редактор?
Автор ты взялся за самое безнадежное и неблагодарное дело. Во первых - поддержка видео-форматов или видео-кодеков. С нуля с этим ты просидишь до седой бороды. Никому не нужна будет разработка через 70 лет.

Посмотри исходники из опенсорцных
-  VirtualDub (там оконное приложение и фильтры) 
- ffmpeg кодекеи
- VLC (плеер и кодеки)

По поводу математики и моделей. Видеоредактор должен уметь склеивать видосы разных разрешений и разных fps. Тебе нужна единая внутреняя модель представления видео и звука во времени. И ты должен написать API для работы с этим всем.

Не спеши кодить. Просто нарисуй на бумажке диаграмму или модель компонент твоего приложения. Я думаю что уже на этом этапе ты должен сильно охладать к разработке или думать как нанять бригаду кодеров и платить им всем сразу и долго.
Мелко, Хоботов. Пиши уж сразу свою операционку. 
Для первого проекта - самое то, руководств в сети полно...