5. \(\cos\left(\frac{3\pi}{2}-3x\right)=-\frac{\sqrt{2}}{2}\)

Используем тождество \(\cos\left(\frac{3\pi}{2}-a\right)=-\sin a\). Получаем \(-\sin 3x=-\frac{\sqrt{2}}{2}\), то есть \(\sin 3x=\frac{\sqrt{2}}{2}\).

Отсюда \(3x=\frac{\pi}{4}+2\pi k\) или \(3x=\frac{3\pi}{4}+2\pi k\), где \(k\in\mathbb{Z}\).

Делим на 3: \(x=\frac{\pi}{12}+\frac{2\pi k}{3}\) или \(x=\frac{\pi}{4}+\frac{2\pi k}{3}\).

Ответ: \(x=\frac{\pi}{12}+\frac{2\pi k}{3}\) или \(x=\frac{\pi}{4}+\frac{2\pi k}{3},\ k\in\mathbb{Z}\).