Ответ:

Так как \(\frac{\pi}{2}<\alpha<\pi\), угол \(\alpha\) лежит во II четверти, где косинус отрицателен.

По основному тригонометрическому тождеству:

\[\cos^2\alpha=1-\sin^2\alpha=1-\left(\frac{5}{13}\right)^2=\frac{144}{169}.\]

Следовательно, \(\cos\alpha=-\frac{12}{13}\). Тогда

\[\operatorname{ctg}\alpha=\frac{\cos\alpha}{\sin\alpha}=\frac{-12/13}{5/13}=-\frac{12}{5}.\]

Ответ: \(\cos\alpha=-\frac{12}{13}\), \(\operatorname{ctg}\alpha=-\frac{12}{5}\).