Решение:
Для решения этой задачи необходимо выполнить следующие действия:
1. Умножить матрицу B на 2.
2. Сложить полученную матрицу с матрицей A.
3. Возвести полученную сумму в квадрат.
1. Умножаем матрицу B на 2:
$$2B = 2 \begin{pmatrix} -2 & 1 & -1 \\ 1 & 0 & 2 \\ 4 & -1 & 0 \end{pmatrix} = \begin{pmatrix} -4 & 2 & -2 \\ 2 & 0 & 4 \\ 8 & -2 & 0 \end{pmatrix}$$
2. Складываем матрицу A и 2B:
$$A + 2B = \begin{pmatrix} 1 & 4 & 7 \\ 2 & 5 & -8 \\ -3 & 6 & 9 \end{pmatrix} + \begin{pmatrix} -4 & 2 & -2 \\ 2 & 0 & 4 \\ 8 & -2 & 0 \end{pmatrix} = \begin{pmatrix} -3 & 6 & 5 \\ 4 & 5 & -4 \\ 5 & 4 & 9 \end{pmatrix}$$
3. Возводим полученную матрицу в квадрат (умножаем саму на себя):
$$(A + 2B)^2 = (A + 2B) \cdot (A + 2B) = \begin{pmatrix} -3 & 6 & 5 \\ 4 & 5 & -4 \\ 5 & 4 & 9 \end{pmatrix} \cdot \begin{pmatrix} -3 & 6 & 5 \\ 4 & 5 & -4 \\ 5 & 4 & 9 \end{pmatrix}$$
Выполняем умножение матриц:
$$ \begin{pmatrix} (-3)(-3) + (6)(4) + (5)(5) & (-3)(6) + (6)(5) + (5)(4) & (-3)(5) + (6)(-4) + (5)(9) \\ (4)(-3) + (5)(4) + (-4)(5) & (4)(6) + (5)(5) + (-4)(4) & (4)(5) + (5)(-4) + (-4)(9) \\ (5)(-3) + (4)(4) + (9)(5) & (5)(6) + (4)(5) + (9)(4) & (5)(5) + (4)(-4) + (9)(9) \end{pmatrix} = \begin{pmatrix} 9 + 24 + 25 & -18 + 30 + 20 & -15 - 24 + 45 \\ -12 + 20 - 20 & 24 + 25 - 16 & 20 - 20 - 36 \\ -15 + 16 + 45 & 30 + 20 + 36 & 25 - 16 + 81 \end{pmatrix} = \begin{pmatrix} 58 & 32 & 6 \\ -12 & 33 & -36 \\ 46 & 86 & 90 \end{pmatrix}$$
Ответ:
$$\begin{pmatrix} 58 & 32 & 6 \\ -12 & 33 & -36 \\ 46 & 86 & 90 \end{pmatrix}$$