Ответ:

Применим тождество \(\sin^2 x-\cos^2 x=-\cos 2x\):

\(\sin^2\frac{5\pi}{12}-\cos^2\frac{5\pi}{12}=-\cos\frac{5\pi}{6}=-\left(-\frac{\sqrt3}{2}\right)=\frac{\sqrt3}{2}\).

Ответ: \(\frac{\sqrt3}{2}\).