Ответ:

Раскроем квадрат разности:

\(\frac{1}{10}(6\sqrt{5}-5\sqrt{10})^2=\frac{1}{10}\left((6\sqrt{5})^2-2\cdot6\sqrt{5}\cdot5\sqrt{10}+(5\sqrt{10})^2\right)\).

\(=\frac{1}{10}(180-60\sqrt{50}+250)=\frac{1}{10}(430-300\sqrt{2})\).

\(=43-30\sqrt{2}\).

Ответ: \(43-30\sqrt{2}\)