5. 2 cos² x − cos x − 3 = 0

Обозначим \(t=\cos x\). Получаем квадратное уравнение: \(2t^2-t-3=0\).

Разложим на множители: \((2t-3)(t+1)=0\). Отсюда \(t=\frac{3}{2}\) или \(t=-1\).

Так как \(\cos x\in[-1,1]\), значение \(\frac{3}{2}\) невозможно. Значит, \(\cos x=-1\), откуда \(x=\pi+2\pi k\), где \(k\in\mathbb{Z}\).

Ответ: \(x=\pi+2\pi k\), \(k\in\mathbb{Z}\).