Ответ:

а) Используем формулу \(\cos 2x=1-2\sin^2x\):

\(2\sin^3x-\sqrt2(1-2\sin^2x)+\sin x=-\sqrt2\).

После раскрытия скобок и переноса всех членов в левую часть:

\(2\sin^3x+2\sqrt2\sin^2x+\sin x=0\).

Вынесем \(\sin x\) за скобки:

\(\sin x(2\sin^2x+2\sqrt2\sin x+1)=0\).

Отсюда:

  1. \(\sin x=0\), поэтому \(x=\pi n,\ n\in\mathbb Z\);
  2. \(2\sin^2x+2\sqrt2\sin x+1=0\). Дискриминант этого квадратного уравнения равен нулю, поэтому \(\sin x=-\frac{\sqrt2}{2}\). Следовательно, \(x=\frac{5\pi}{4}+2\pi n\) или \(x=\frac{7\pi}{4}+2\pi n\), \(n\in\mathbb Z\).

б) На отрезке \(\left[\frac{3\pi}{2};3\pi\right]\) получаем:

  • из \(x=\pi n\): \(x=2\pi\) и \(x=3\pi\);
  • из \(\sin x=-\frac{\sqrt2}{2}\): \(x=\frac{7\pi}{4}\).

Ответ: \(x=\frac{7\pi}{4},\ 2\pi,\ 3\pi\).