Может кто-нибудь видел подобный шейдер, или подскажет в какую сторону копать:
В качестве входных параметров: две текстуры, черно-белая (или альфа) маска, и переменная в диапазоне от 0 до 1. Необходимо реализовать следующий эффект: если значение какого-либо канала в маске в определенном пикселе меньше значения переменной, то берем пиксель из первой текстуры иначе из второй. Пиксели смешивать не нужно. То есть нужно, что-то среднее между Dissolve Shaders и этим шейдером:
http://unity3d.ru/distribution/viewtopic.php?f=35&t=2994