Существуют ли микроконтроллеры с частотой 600 Мгц -- 1 Ггц?
Смотря что считать микроконтроллером? Если SoC с кучей встроенной периферии, то вряд ли. Если годится просто процессор или DSP, то навалом их:
Cortex A7/A8, Analog Devices BlackFin, Texas Instruments C66x
все зависит от требований и сложности. Первый вопрос ....откуда такие частоты? Из головы? расчеты?
Обычно сначала оценивают проект ищут  места, которые можно различным путем упростить, распараллелить и т.п. Потом по грубым оценкам можно понять сколько ресурсов он( проект займет ) и уже под это подбирают кристалл. Т.е. нужен анализ исходного задания + разбор алгорима работы.
Я думаю, что Вам подойдет ПЛИС. Во - первых , на нем можно получить не плохие скорости работы, при этом эти скорости они постоянные, в отличии от мк, который может уйти на прерывание, или на другую ветвь.  Остальные плюсы ПЛИС или SOC прочтите сами( вплоть до запуска linux)
Мой совет.
1) Начните с разбора исходной конкретной задачи
2) На бумашке/в уме/в программе у вас должна быть архитектура вашего устройства на разных уровнях. Т.е. как взаимодействуют камера и ваше устройство кодирования?  Какой формат изображения? каким образом оно кадируется и храниться/передается? Каким образом определять наличие сигнала? Нужна ли синхронизация? к примеру, передали кадр, нужно ли кадры, друг от друга отделять синхрословами? 
3) посмотрите готовые проектные решения, есть даже отдельные книги..
4) с какой скоростью хотите снимать и передоавть изображения? Отдельно много вопросов, если еще будет модулятор...
А просить выбрать непонятный МК под непонятно что....как бы смысла нет.