Для нахождения \( \cos \alpha \) воспользуемся основным тригонометрическим тождеством:
\[ \sin^2 \alpha + \cos^2 \alpha = 1 \]
Подставим известное значение \( \sin \alpha = \frac{3}{5} \):
\[ \left(\frac{3}{5}\right)^2 + \cos^2 \alpha = 1 \]
\[ \frac{9}{25} + \cos^2 \alpha = 1 \]
Выразим \( \cos^2 \alpha \):
\[ \cos^2 \alpha = 1 - \frac{9}{25} \]
\[ \cos^2 \alpha = \frac{25}{25} - \frac{9}{25} \]
\[ \cos^2 \alpha = \frac{16}{25} \]
Теперь найдём \( \cos \alpha \). Возьмём квадратный корень из обеих частей:
\[ \cos \alpha = \pm \sqrt{\frac{16}{25}} = \pm \frac{4}{5} \]
Условие \( \frac{\pi}{2} < \alpha < \pi \) означает, что угол \( \alpha \) находится во второй четверти. Во второй четверти косинус отрицателен.
Следовательно, выбираем отрицательное значение:
\[ \cos \alpha = -\frac{4}{5} \]
Ответ: \( -\frac{4}{5} \).