Воспользуемся основным тригонометрическим тождеством: $$sin^2a + cos^2a = 1$$.
Подставим известное значение sin a:
$$(\frac{5}{7})^2 + cos^2a = 1$$
$$\frac{25}{49} + cos^2a = 1$$
$$cos^2a = 1 - \frac{25}{49} = \frac{49}{49} - \frac{25}{49} = \frac{24}{49}$$
$$cosa = \pm \sqrt{\frac{24}{49}} = \pm \frac{\sqrt{24}}{7} = \pm \frac{\sqrt{4 \cdot 6}}{7} = \pm \frac{2\sqrt{6}}{7}$$
Так как угол a находится в диапазоне от 90° до 180°, то косинус этого угла отрицательный, следовательно, выбираем отрицательное значение.
Ответ: $$cosa = -\frac{2\sqrt{6}}{7}$$