Ответ:

а) Используем тождество \(2\sin^2 x=1-\cos 2x\):

\(1-\cos 2x-3\cos 2x+1=0\).

\(2-4\cos 2x=0\), поэтому \(\cos 2x=\frac12\).

Отсюда \(2x=\pm\frac{\pi}{3}+2\pi k\), где \(k\in\mathbb Z\), и потому

\(x=\pm\frac{\pi}{6}+\pi k\), где \(k\in\mathbb Z\).

б) Отбираем корни из отрезка \([\pi;3\pi]\):

  • из семейства \(x=\frac{\pi}{6}+\pi k\) подходят \(k=1,2\): \(\frac{7\pi}{6},\frac{13\pi}{6}\);
  • из семейства \(x=-\frac{\pi}{6}+\pi k\) подходят \(k=2,3\): \(\frac{11\pi}{6},\frac{17\pi}{6}\).

Ответ: \(\frac{7\pi}{6},\frac{11\pi}{6},\frac{13\pi}{6},\frac{17\pi}{6}\).