11. Решите систему уравнений: \(\begin{cases}x-y=3,\\x^2+y^2=17.\end{cases}\)

Из первого уравнения \(y=x-3\). Подставим во второе: \(x^2+(x-3)^2=17\), откуда \(x^2-3x-4=0\).

Корни: \(x=4\) или \(x=-1\). Тогда соответственно \(y=1\) или \(y=-4\).

Ответ: \((4,1)\), \((-1,-4)\).