a) Решим систему уравнений: $$ \begin{cases} x^2 + 4xy = 21 \\ 3x - y = 8 \end{cases} $$ Выразим из второго уравнения y: y = 3x - 8. Подставим в первое уравнение: $$x^2 + 4x(3x - 8) = 21$$ $$x^2 + 12x^2 - 32x = 21$$ $$13x^2 - 32x - 21 = 0$$
Решим квадратное уравнение: $$x = \frac{32 \pm \sqrt{(-32)^2 - 4 \cdot 13 \cdot (-21)}}{2 \cdot 13} = \frac{32 \pm \sqrt{1024 + 1092}}{26} = \frac{32 \pm \sqrt{2116}}{26} = \frac{32 \pm 46}{26}$$
$$x_1 = \frac{32 + 46}{26} = \frac{78}{26} = 3$$ $$x_2 = \frac{32 - 46}{26} = \frac{-14}{26} = -\frac{7}{13}$$
Найдем соответствующие значения y: $$y_1 = 3x_1 - 8 = 3 \cdot 3 - 8 = 9 - 8 = 1$$ $$y_2 = 3x_2 - 8 = 3 \cdot (-\frac{7}{13}) - 8 = -\frac{21}{13} - \frac{104}{13} = -\frac{125}{13}$$
Решения системы уравнений: (3; 1) и (-7/13; -125/13).
Ответ: (3; 1); (-7/13; -125/13)