Ответ:
Обозначим \(\sin x=s\) и используем \(\cos^2x=1-s^2\):
\(2s-\sqrt{2}(1-s^2)=2s^3\).
Переносим всё в одну сторону и раскладываем на множители:
\(2s^3-\sqrt{2}s^2-2s+\sqrt{2}=0\),
\((s^2-1)(2s-\sqrt{2})=0\).
Следовательно, \(\sin x=1\), \(\sin x=-1\) или \(\sin x=\frac{\sqrt{2}}{2}\). Все решения:
\(x=\frac{\pi}{2}+2\pi k\); \(x=\frac{3\pi}{2}+2\pi k\); \(x=\frac{\pi}{4}+2\pi k\) или \(x=\frac{3\pi}{4}+2\pi k\), где \(k\in\mathbb{Z}\).
На отрезке \([3\pi;\frac{9\pi}{2}]\) этим решениям соответствуют \(\frac{7\pi}{2}\), \(\frac{17\pi}{4}\) и \(\frac{9\pi}{2}\).
Ответ: а) \(x=\frac{\pi}{2}+2\pi k\), \(x=\frac{3\pi}{2}+2\pi k\), \(x=\frac{\pi}{4}+2\pi k\), \(x=\frac{3\pi}{4}+2\pi k\), \(k\in\mathbb{Z}\); б) \(\frac{7\pi}{2},\frac{17\pi}{4},\frac{9\pi}{2}\).
