Дан: \( \cos \alpha = -\frac{5}{13} \) и \( \frac{3\pi}{2} < \alpha < 2\pi \). Это означает, что угол \(\alpha\) находится в IV четверти.
Используем формулу косинуса разности: \( \cos(A - B) = \cos A \cos B + \sin A \sin B \).
В нашем случае \( A = \frac{\pi}{4} \) и \( B = \alpha \).
\( \cos(\frac{\pi}{4} - \alpha) = \cos \frac{\pi}{4} \cos \alpha + \sin \frac{\pi}{4} \sin \alpha \)
Подставляем известные значения: \( \cos \frac{\pi}{4} = \frac{\sqrt{2}}{2} \), \( \sin \frac{\pi}{4} = \frac{\sqrt{2}}{2} \), \( \cos \alpha = -\frac{5}{13} \), \( \sin \alpha = -\frac{12}{13} \).
\( \cos(\frac{\pi}{4} - \alpha) = \frac{\sqrt{2}}{2} \cdot \left(-\frac{5}{13}\right) + \frac{\sqrt{2}}{2} \cdot \left(-\frac{12}{13}\right) = -\frac{5\sqrt{2}}{26} - \frac{12\sqrt{2}}{26} = -\frac{17\sqrt{2}}{26} \).
Ответ: а) \(\sin \alpha = -\frac{12}{13}\), \(\operatorname{tg} \alpha = \frac{12}{5}\), \(\operatorname{ctg} \alpha = \frac{5}{12}\); б) \(\cos(\frac{\pi}{4} - \alpha) = -\frac{17\sqrt{2}}{26}\).