Ответ:

а) Упростим корни: \(\sqrt{75}=5\sqrt{3}\), \(\sqrt{8}=2\sqrt{2}\), \(\sqrt{24}=2\sqrt{6}\).

\[\frac{4}{5}\sqrt{75}+\sqrt{2}(\sqrt{8}-\sqrt{24})=4\sqrt{3}+\sqrt{16}-\sqrt{48}=4\sqrt{3}+4-4\sqrt{3}=4.\]

б) Возведём разность в квадрат: \[(\sqrt{8}-\sqrt{5})^2=8-2\sqrt{40}+5=13-4\sqrt{10}.\]

Ответ: а) 4; б) \(13-4\sqrt{10}\).