Используем формулу квадрата разности: $$(a - b)^2 = a^2 - 2ab + b^2$$
В нашем случае: $$a = \sqrt{x}, b = 3\sqrt{y}$$
Тогда: $$(\sqrt{x} - 3\sqrt{y})^2 = (\sqrt{x})^2 - 2(\sqrt{x})(3\sqrt{y}) + (3\sqrt{y})^2 = x - 6\sqrt{xy} + 9y$$
Ответ: $$x-6\sqrt{xy}+9y$$