a) Решим систему уравнений:
$$\begin{cases}3x - y = 10\\x^2 - y^2 = 20 - xy\end{cases}$$
Выразим из первого уравнения переменную y:
$$y = 3x - 10$$
Подставим полученное выражение во второе уравнение:
$$x^2 - (3x - 10)^2 = 20 - x(3x - 10)$$
$$x^2 - (9x^2 - 60x + 100) = 20 - 3x^2 + 10x$$
$$x^2 - 9x^2 + 60x - 100 = 20 - 3x^2 + 10x$$
$$-8x^2 + 60x - 100 = 20 - 3x^2 + 10x$$
$$0 = 5x^2 - 50x + 120$$
$$x^2 - 10x + 24 = 0$$
Решим квадратное уравнение относительно x:
$$D = (-10)^2 - 4 \cdot 1 \cdot 24 = 100 - 96 = 4$$
$$x_1 = \frac{10 + \sqrt{4}}{2} = \frac{10 + 2}{2} = 6$$
$$x_2 = \frac{10 - \sqrt{4}}{2} = \frac{10 - 2}{2} = 4$$
Теперь найдем соответствующие значения y:
$$y_1 = 3 \cdot 6 - 10 = 18 - 10 = 8$$
$$y_2 = 3 \cdot 4 - 10 = 12 - 10 = 2$$
Ответ: (6; 8), (4; 2)