Ответ:

Подставляем матрицу в многочлен: \(f(A)=A^3+A^2+3A-I\), где \(I\) — единичная матрица.

Вычислим степени матрицы:

\[A^2=\begin{pmatrix}9&1\\0&4\end{pmatrix},\qquad A^3=\begin{pmatrix}27&7\\0&-8\end{pmatrix}.\]

Теперь складываем слагаемые:

\[f(A)=\begin{pmatrix}27&7\\0&-8\end{pmatrix}+\begin{pmatrix}9&1\\0&4\end{pmatrix}+\begin{pmatrix}9&3\\0&-6\end{pmatrix}-\begin{pmatrix}1&0\\0&1\end{pmatrix}=\begin{pmatrix}44&11\\0&-11\end{pmatrix}.\]

Ответ: \(f(A)=\begin{pmatrix}44&11\\0&-11\end{pmatrix}\).