Используем формулу квадрата разности: $$(a-b)^2 = a^2 - 2ab + b^2$$. В нашем случае $$a = \sqrt{a}$$, $$b = \sqrt{b}$$.
$$(\sqrt{a} - \sqrt{b})^2 = (\sqrt{a})^2 - 2(\sqrt{a})(\sqrt{b}) + (\sqrt{b})^2 = a - 2\sqrt{ab} + b$$.
Ответ: $$a - 2\sqrt{ab} + b$$