Ответ:

а) Используем тождества \(\cos(3x+\frac{\pi}{2})=-\sin 3x\) и \(\sin(6x-\pi)=-\sin 6x\):

\(2\sin^2 3x+\sin 6x=0\).

Так как \(\sin 6x=2\sin 3x\cos 3x\), получаем \(2\sin 3x(\sin 3x+\cos 3x)=0\).

Отсюда либо \(\sin 3x=0\), поэтому \(x=\frac{\pi k}{3}\), либо \(\sin 3x+\cos 3x=0\), поэтому \(3x=-\frac{\pi}{4}+\pi k\) и \(x=-\frac{\pi}{12}+\frac{\pi k}{3}\), где \(k\in\mathbb Z\).

б) На отрезке \([\frac{\pi}{2};\pi]\) корни первого семейства: \(\frac{2\pi}{3},\pi\); второго семейства: \(\frac{7\pi}{12},\frac{11\pi}{12}\).

Ответ: а) \(x=\frac{\pi k}{3}\) или \(x=-\frac{\pi}{12}+\frac{\pi k}{3}\), \(k\in\mathbb Z\); б) \(\frac{7\pi}{12},\frac{2\pi}{3},\frac{11\pi}{12},\pi\).