Как называется этот прием в веб-дизайне?
Не знаю, я бы просто взял готовую кисть с фотошопа, задал бы нужные параметры и рисовал.
На слой с картинкой делается маска и на ней кистями рисуется. Черное - абсолютная прозрачность, белое абсолютная непрозразрачность, оттенки серого прозрачность.