Ответ:

а) Используем \(\operatorname{tg}x\cdot\operatorname{ctg}x=1\), \(\cos^2\pi=1\) и \(\sin^2x+\cos^2x=1\):
\(1+1-\left(\sin^2\frac{\pi}{8}+\cos^2\frac{\pi}{8}\right)=2-1=1\).

б) Так как \(\cos^2(-x)=\cos^2x\) и \(\sin^2\frac{5\pi}{2}=1\), получаем:
\(\sin^2\frac{3\pi}{7}+\cos^2\frac{3\pi}{7}-2\cdot1+1=1-2+1=0\).

Ответ: а) 1; б) 0.