Ответ:

Первое уравнение системы.

Из первого уравнения выразим \(x\):

\(x=y+1\).

Подставим это выражение во второе уравнение:

\((y+1)^2+2(y+1)y=40\).

Раскроем скобки:

\(y^2+2y+1+2y^2+2y=40\),

\(3y^2+4y-39=0\).

Дискриминант:

\(D=4^2-4\cdot3\cdot(-39)=484=22^2\).

\(y=\dfrac{-4\pm22}{6}\).

Следовательно, \(y=3\) или \(y=-\dfrac{13}{3}\).

При \(y=3\): \(x=y+1=4\).

При \(y=-\dfrac{13}{3}\): \(x=y+1=-\dfrac{10}{3}\).

Ответ: \((x;y)=(4;3)\) или \(\left(-\dfrac{10}{3};-\dfrac{13}{3}\right)\).

Второе уравнение системы.

Из линейного уравнения выразим \(x\):

\(3x+5y=0\),

\(x=-\dfrac{5y}{3}\).

Подставим в первое уравнение:

\(\left(-\dfrac{5y}{3}\right)^2-y^2=64\).

\(\dfrac{25y^2}{9}-\dfrac{9y^2}{9}=64\),

\(\dfrac{16y^2}{9}=64\),

\(y^2=36\).

Отсюда \(y=6\) или \(y=-6\).

Если \(y=6\), то \(x=-\dfrac{5\cdot6}{3}=-10\).

Если \(y=-6\), то \(x=-\dfrac{5\cdot(-6)}{3}=10\).

Ответ: \((x;y)=(-10;6)\) или \((10;-6)\).