Ответ:

Из условия \(\frac{5\pi}{2}<\alpha<3\pi\) следует, что \(\frac{\pi}{2}<\alpha-2\pi<\pi\): угол находится во II четверти. Поэтому \(\sin\alpha>0\), а \(\cos\alpha<0\).

Поскольку квадратный корень неотрицателен, \(\sqrt{1-\sin^2\alpha}=|\cos\alpha|=-\cos\alpha\), а \(\sqrt{1-\cos^2\alpha}=|\sin\alpha|=\sin\alpha\). Следовательно,

\[A=\cos\alpha(-\cos\alpha)-\sin\alpha\sin\alpha=-\cos^2\alpha-\sin^2\alpha=-1.\]

Ответ: \(-1\).