Ответ:

Применим формулу квадрата разности: \((x-y)^2=x^2-2xy+y^2\).

\((\sqrt{8}-\sqrt{5})^2=8-2\sqrt{40}+5=13-4\sqrt{10}\).

Ответ: \(13-4\sqrt{10}\).