Преобразуем уравнение, используя основное тригонометрическое тождество:
$$3sin^2x + 4cos^2x = 13cosxsinx$$
$$3sin^2x + 4cos^2x - 13cosxsinx = 0$$
Разделим обе части уравнения на $$cos^2x$$ (предполагаем, что $$cosx
eq 0$$):
$$3tg^2x - 13tgx + 4 = 0$$
Введем замену: $$t = tgx$$, тогда уравнение примет вид:
$$3t^2 - 13t + 4 = 0$$
Решим квадратное уравнение:
$$D = (-13)^2 - 4 \cdot 3 \cdot 4 = 169 - 48 = 121$$
$$t_1 = \frac{13 + \sqrt{121}}{6} = \frac{13 + 11}{6} = 4$$
$$t_2 = \frac{13 - \sqrt{121}}{6} = \frac{13 - 11}{6} = \frac{1}{3}$$
Вернемся к замене:
1) $$tgx = 4$$
$$x = arctg(4) + \pi k, k \in Z$$
2) $$tgx = \frac{1}{3}$$
$$x = arctg(\frac{1}{3}) + \pi n, n \in Z$$
Если $$cosx = 0$$, то $$x = \frac{\pi}{2} + \pi m, m \in Z$$. Подставим в исходное уравнение: $$3sin^2(\frac{\pi}{2} + \pi m) + 4cos^2(\frac{\pi}{2} + \pi m) = 13cos(\frac{\pi}{2} + \pi m)sin(\frac{\pi}{2} + \pi m)$$
$$3 = 0$$ - неверно, значит, $$x = \frac{\pi}{2} + \pi m$$ не является решением.
Ответ: $$x = arctg(4) + \pi k, k \in Z$$; $$x = arctg(\frac{1}{3}) + \pi n, n \in Z$$