Ответ:
а) Используем тождество \(2\cos^2 x=1+\cos 2x\):
\(1+\cos 2x+3\sin 2x=4+3\cos 2x\),
\(3\sin 2x-2\cos 2x=3\).
Пусть \(\alpha=\arctan\dfrac{2}{3}\), а \(\beta=\arcsin\dfrac{3}{\sqrt{13}}\). Тогда \(3\sin 2x-2\cos 2x=\sqrt{13}\sin(2x-\alpha)\). Получаем \(\sin(2x-\alpha)=\dfrac{3}{\sqrt{13}}\), откуда
\(2x-\alpha=\beta+2\pi k\) или \(2x-\alpha=\pi-\beta+2\pi k\), где \(k\in\mathbb Z\).
Следовательно, \(x=\dfrac{\alpha+\beta}{2}+\pi k\) или \(x=\dfrac{\alpha+\pi-\beta}{2}+\pi k\), где \(k\in\mathbb Z\).
б) На отрезке \([5\pi;6\pi]\) подходят значения с \(k=5\):
\(x=5\pi+\dfrac{\alpha+\beta}{2}\) или \(x=5\pi+\dfrac{\alpha+\pi-\beta}{2}\).
Ответ: \(x=\dfrac{\alpha+\beta}{2}+\pi k\) или \(x=\dfrac{\alpha+\pi-\beta}{2}+\pi k\), \(k\in\mathbb Z\); на отрезке \([5\pi;6\pi]\): \(5\pi+\dfrac{\alpha+\beta}{2}\) и \(5\pi+\dfrac{\alpha+\pi-\beta}{2}\), где \(\alpha=\arctan\dfrac{2}{3}\), \(\beta=\arcsin\dfrac{3}{\sqrt{13}}\).
