Поскольку пара чисел (-1; 2) является решением системы уравнений, то при подстановке x=-1 и y=2 в уравнения системы, они должны обращаться в верные равенства.
Подставим x=-1 и y=2 в первое уравнение:
\[ (a-3)(-1) - b(2) = 3b \]
\[ -a + 3 - 2b = 3b \]
\[ -a + 3 = 3b + 2b \]
\[ -a + 3 = 5b \]
\[ a + 5b = 3 \]
Подставим x=-1 и y=2 во второе уравнение:
\[ a(-1) - (2b-1)(2) = 3a - 11 \]
\[ -a - (4b - 2) = 3a - 11 \]
\[ -a - 4b + 2 = 3a - 11 \]
\[ 2 + 11 = 3a + a + 4b \]
\[ 13 = 4a + 4b \]
\[ 4a + 4b = 13 \]
Теперь у нас получилась система уравнений относительно a и b:
\[ \begin{cases} a + 5b = 3 \\ 4a + 4b = 13 \end{cases} \]
\[ a = 3 - 5b \]
\[ 4(3 - 5b) + 4b = 13 \]
\[ 12 - 20b + 4b = 13 \]
\[ 12 - 16b = 13 \]
\[ -16b = 13 - 12 \]
\[ -16b = 1 \]
\[ b = -\frac{1}{16} \]
\[ a = 3 - 5b = 3 - 5 \left( -\frac{1}{16} \right) = 3 + \frac{5}{16} = \frac{48 + 5}{16} = \frac{53}{16} \]
Ответ: a = rac{53}{16}, b = -rac{1}{16}