10) - \frac{1}{4}x^{2} - \frac{9}{16}y^{2}; 11) -4ab^{2} + 25; 12) 144x^{4}y^{2} - 400;

Для разложения на множители используем формулу разности квадратов: $$a^2 - b^2 = (a - b)(a + b)$$.

1. $$-\frac{1}{4}x^{2} - \frac{9}{16}y^{2} = -(\frac{1}{4}x^{2} + \frac{9}{16}y^{2})$$ - нельзя разложить на множители, так как сумма квадратов.
2. $$-4ab^{2} + 25 = 25 - 4ab^{2} = (5 - 2\sqrt{ab})(5 + 2\sqrt{ab})$$
3. $$144x^{4}y^{2} - 400 = (12x^{2}y - 20)(12x^{2}y + 20)$$.

Ответ: 1) нельзя разложить на множители, так как сумма квадратов; 2) $$(5 - 2\sqrt{ab})(5 + 2\sqrt{ab})$$; 3) $$(12x^{2}y - 20)(12x^{2}y + 20)$$.