Возведем выражение в квадрат, используя формулу (a - b)² = a² - 2ab + b²:
$$(5\sqrt{6}-6\sqrt{2})^2 = (5\sqrt{6})^2 - 2 \cdot 5\sqrt{6} \cdot 6\sqrt{2} + (6\sqrt{2})^2 = 25 \cdot 6 - 60\sqrt{12} + 36 \cdot 2 = 150 - 60\sqrt{4 \cdot 3} + 72 = 222 - 60 \cdot 2\sqrt{3} = 222 - 120\sqrt{3}$$Ответ: $$222 - 120\sqrt{3}$$