Для решения системы уравнений:
\[\begin{cases}x^2 + y^2 = 10 \\ y^3 + x^3 + x^2y + xy^2 = -40\end{cases}\]Заметим, что второе уравнение можно упростить:
\[y^3 + x^3 + x^2y + xy^2 = (x+y)(x^2 - xy + y^2) + xy(x+y) = (x+y)(x^2 - xy + y^2 + xy) = (x+y)(x^2 + y^2)\]Тогда система принимает вид:
\[\begin{cases}x^2 + y^2 = 10 \\ (x+y)(x^2 + y^2) = -40\end{cases}\]Подставляем первое уравнение во второе:
\[(x+y)(10) = -40\]\[x+y = -4\]Теперь выразим, например, \( y \) через \( x \):
\[y = -4 - x\]Подставим это выражение в первое уравнение системы:
\[x^2 + (-4-x)^2 = 10\]\[x^2 + (16 + 8x + x^2) = 10\]\[2x^2 + 8x + 16 - 10 = 0\]\[2x^2 + 8x + 6 = 0\]Разделим на 2:
\[x^2 + 4x + 3 = 0\]Решим квадратное уравнение. Дискриминант:
\[D = b^2 - 4ac = 4^2 - 4(1)(3) = 16 - 12 = 4\]Корни:
\[x_1 = \frac{-b + \sqrt{D}}{2a} = \frac{-4 + \sqrt{4}}{2} = \frac{-4 + 2}{2} = \frac{-2}{2} = -1\]\[x_2 = \frac{-b - \sqrt{D}}{2a} = \frac{-4 - \sqrt{4}}{2} = \frac{-4 - 2}{2} = \frac{-6}{2} = -3\]Найдем соответствующие значения \( y \):
Для \( x_1 = -1 \):
\[y_1 = -4 - (-1) = -4 + 1 = -3\]Для \( x_2 = -3 \):
\[y_2 = -4 - (-3) = -4 + 3 = -1\]Таким образом, решения системы уравнений:
\[(x_1, y_1) = (-1, -3)\]\[(x_2, y_2) = (-3, -1)\]Ответ: ((-1, -3), (-3, -1))