Для системы дифференциальных уравнений вида
$$ \begin{cases} \frac{dx_1}{dt} = a_{11}x_1 + a_{12}x_2 \\ \frac{dx_2}{dt} = a_{21}x_1 + a_{22}x_2 \end{cases} $$
характеристическое уравнение имеет вид:
$$ \begin{vmatrix} a_{11} - \lambda & a_{12} \\ a_{21} & a_{22} - \lambda \end{vmatrix} = 0 $$
В данной системе:
Подставляем значения в определитель:
$$ \begin{vmatrix} 1 - \lambda & 3 \\ 1 & -3 - \lambda \end{vmatrix} = 0 $$
Вычисляем определитель:
$$ (1 - \lambda)(-3 - \lambda) - (3)(1) = 0 $$
Раскрываем скобки:
$$ -3 - \lambda + 3\lambda + \lambda^2 - 3 = 0 $$
Приводим подобные члены:
$$ \lambda^2 + 2\lambda - 6 = 0 $$