5. 3 sin²x - cos² x = 0.

Решение:

Заменим \( \cos^2 x \) на \( 1 - \sin^2 x \) согласно основному тригонометрическому тождеству.

\( 3 \sin^2 x - (1 - \sin^2 x) = 0 \)

\( 3 \sin^2 x - 1 + \sin^2 x = 0 \)

\( 4 \sin^2 x = 1 \)

\( \sin^2 x = \frac{1}{4} \)

\( \sin x = \pm \frac{1}{2} \)

Таким образом, \( x = \frac{\pi}{6} + \frac{\pi k}{2} \) или \( x = \frac{5\pi}{6} + \frac{\pi k}{2} \), что можно объединить в \( x = \frac{\pi}{6} + \frac{\pi k}{2} \) и \( x = -\frac{\pi}{6} + \frac{\pi k}{2} \), или \( x = \pm \frac{\pi}{6} + \pi k \) и \( x = \pm \frac{5\pi}{6} + \pi k \).

Более компактная запись:

\( x = \frac{\pi}{6} + \frac{\pi n}{2} \) или \( x = \frac{5\pi}{6} + \frac{\pi n}{2} \).

Эти решения можно объединить как \( x = \frac{\pi}{6} + \pi k \) и \( x = \frac{5\pi}{6} + \pi k \).

Общее решение:

\( x = \frac{\pi}{6} + \frac{\pi k}{2} \) и \( x = \frac{5\pi}{6} + \frac{\pi k}{2} \).

Ответ: \( x = \frac{\pi}{6} + \frac{\pi k}{2} \), \( x = \frac{5\pi}{6} + \frac{\pi k}{2} \), \( k \in \mathbb{Z} \).