Ответ:

Раскроем скобки:

\((3x-y)^2=9x^2-6xy+y^2\),

\((5x-2)(5x+2)=25x^2-4\).

Подставим:

\(9x^2-6xy+y^2-(25x^2-4)+20=0\).

Упростим:

\(-16x^2-6xy+y^2+24=0\), или

\(y^2-6xy-16x^2+24=0\).

Рассмотрим это как квадратное уравнение относительно \(y\):

\(y=\dfrac{6x\pm\sqrt{36x^2+4(16x^2-24)}}{2}=3x\pm\sqrt{25x^2-24}\).

Действительные значения существуют при \(25x^2-24\geqslant0\).

Ответ: \(y=3x\pm\sqrt{25x^2-24}\), \(|x|\geqslant\dfrac{2\sqrt6}{5}\).