Ответ:

а) Упростим корни: \(\sqrt{75}=5\sqrt{3}\), \(\sqrt{16}=4\), а \(\sqrt{2}\sqrt{24}=\sqrt{48}=4\sqrt{3}\).

\(\frac{4}{5}\cdot5\sqrt{3}+\sqrt{2}(\sqrt{8}-\sqrt{24})=4\sqrt{3}+4-4\sqrt{3}=4.\)

б) Применим формулу квадрата разности:

\((\sqrt{8}-\sqrt{5})^2=8-2\sqrt{40}+5=13-4\sqrt{10}.\)

Ответ: а) 4; б) \(13-4\sqrt{10}\).