Ответ:

Используем тождество \(\sin^2 t-\cos^2 t=-\cos 2t\):

\(\displaystyle\cos\frac{\pi}{12}\left(\sin^2\frac{5\pi}{24}-\cos^2\frac{5\pi}{24}\right)=-\cos\frac{\pi}{12}\cos\frac{5\pi}{12}\).

По формуле произведения косинусов:

\(\displaystyle\cos\frac{\pi}{12}\cos\frac{5\pi}{12}=\frac12\left(\cos\frac{\pi}{2}+\cos\frac{\pi}{3}\right)=\frac14\).

Ответ: \(-\frac14\).