Ответ:

Поскольку \(\dfrac{13\pi}{8}=2\pi-\dfrac{3\pi}{8}\), имеем \(\cos^2\dfrac{13\pi}{8}=\cos^2\dfrac{3\pi}{8}=\dfrac{2+\sqrt2}{4}\).

\(10\sqrt2\cdot\dfrac{2+\sqrt2}{4}-5\sqrt2=5\sqrt2+5-5\sqrt2=5\).

Ответ: 5.