Ответ:

а) Из второго уравнения выразим \(x=1+2y\). Подставим в первое:

\((1+2y)^2+(1+2y)y-y^2=11\), откуда \(5y^2+5y-10=0\), или \((y+2)(y-1)=0\).

Значит, \(y=1\) или \(y=-2\). Тогда \(x=3\) или \(x=-3\) соответственно.

б) Из второго уравнения \(y=\frac{-1-3x}{2}\). Подстановка в первое приводит к \(-x^2+8x-15=0\), то есть \((x-3)(x-5)=0\).

При \(x=3\) получаем \(y=-5\), а при \(x=5\) — \(y=-8\).

Ответ: а) \((3;1),(-3;-2)\); б) \((3;-5),(5;-8)\).