Ответ:

Упростим корни: \(\sqrt{125}=5\sqrt5\), \(\sqrt{20}=2\sqrt5\).

\(\frac25(5\sqrt5-2\sqrt5)\cdot\sqrt5=\frac25\cdot3\sqrt5\cdot\sqrt5=6\).

Раскроем квадрат: \((3-\sqrt5)^2=9-6\sqrt5+5=14-6\sqrt5\).

Вычислим: \(6-(14-6\sqrt5)-6\sqrt5=6-14+6\sqrt5-6\sqrt5=-8\).

Ответ: −8.