Индексы в MySQL
Если вероятность a > b велика, то возможно лучше будет перед UPDATE вообще отключить индексы и после завершения запроса пересчитать их.
Например, не выполнять такой запрос вовсе, просто вместо
SELECT a…
запрашивать
SELECT LEAST(a, b)…