Ответ:
а) Используем тождество \(\cos(5\pi-x)=-\cos x\). Обозначим \(c=\cos x\). Тогда
\(2c^2+\sqrt2c=-6c-3\sqrt2\),
\(2c^2+(6+\sqrt2)c+3\sqrt2=0\).
Корни этого квадратного уравнения: \(c=-\frac{\sqrt2}{2}\) и \(c=-3\). Поскольку косинус не может быть равен \(-3\), остаётся \(\cos x=-\frac{\sqrt2}{2}\).
Отсюда \(x=\frac{3\pi}{4}+2\pi k\) или \(x=-\frac{3\pi}{4}+2\pi k\), где \(k\in\mathbb Z\).
б) На отрезке \([-3\pi;-3\pi/2]\) из первой серии подходит \(x=-\frac{5\pi}{4}\), из второй — \(x=-\frac{11\pi}{4}\).
Ответ: а) \(x=\frac{3\pi}{4}+2\pi k\) или \(x=-\frac{3\pi}{4}+2\pi k\), \(k\in\mathbb Z\); б) \(-\frac{11\pi}{4},-\frac{5\pi}{4}\).
