Ответ:

Из первого уравнения выразим \(y\):

\(y=3x-10.\)

Подставим это выражение во второе уравнение:

\(x^2+2x(3x-10)-(3x-10)^2=20.\)

Раскроем скобки и приведём подобные слагаемые:

\(-2x^2+40x-100=20,\)

\(x^2-20x+60=0.\)

Решим квадратное уравнение:

\(x=\dfrac{20\pm\sqrt{400-240}}{2}=10\pm2\sqrt{10}.\)

Подставим найденные значения в \(y=3x-10\): получаем \(y=20\pm6\sqrt{10}\) с соответствующими знаками.

Ответ: \((x,y)=(10+2\sqrt{10},\,20+6\sqrt{10})\) или \((10-2\sqrt{10},\,20-6\sqrt{10})\).