Ответ:

а) Из второго уравнения: \(x=1+2y\).

Подставим в первое уравнение:

\((1+2y)^2+(1+2y)y-y^2=11\),
\(5y^2+5y-10=0\),
\(y^2+y-2=0\),
\((y-1)(y+2)=0\).

Если \(y=1\), то \(x=3\). Если \(y=-2\), то \(x=-3\).

Ответ: \((3;1)\), \((-3;-2)\).

б) Из второго уравнения: \(y=\frac{-1-3x}{2}\).

Подставим в первое уравнение и умножим на 4:

\(4x^2+2x(-1-3x)-6(-1-3x)=36\),
\(x^2-8x+15=0\),
\((x-3)(x-5)=0\).

При \(x=3\) получаем \(y=-5\); при \(x=5\) получаем \(y=-8\).

Ответ: \((3;-5)\), \((5;-8)\).