3) {x-5y = 3, x²-2xy - y² = -1;

Выразим x из первого уравнения:$$x = 5y + 3$$ Подставим во второе уравнение: $$(5y+3)^2 - 2(5y+3)y - y^2 = -1$$ $$25y^2 + 30y + 9 - 10y^2 - 6y - y^2 = -1$$ $$14y^2 + 24y + 10 = 0$$ $$7y^2 + 12y + 5 = 0$$ $$D = 12^2 - 4 Imes 7 Imes 5 = 144 - 140 = 4$$ $$y_1 = \frac{-12 + \sqrt{4}}{2 Imes 7} = \frac{-12 + 2}{14} = \frac{-10}{14} = -\frac{5}{7}$$ $$y_2 = \frac{-12 - \sqrt{4}}{2 Imes 7} = \frac{-12 - 2}{14} = \frac{-14}{14} = -1$$ Найдем соответствующие значения x: $$x_1 = 5y_1 + 3 = 5 \cdot (-\frac{5}{7}) + 3 = -\frac{25}{7} + \frac{21}{7} = -\frac{4}{7}$$ $$x_2 = 5y_2 + 3 = 5 \cdot (-1) + 3 = -5 + 3 = -2$$ Тогда решениями системы будут: (x = -4/7, y = -5/7) и (x = -2, y = -1)

Ответ: x = -4/7, y = -5/7 и x = -2, y = -1