Ответ:

Подставим матрицу: \(P(X)=X^3-3I\), где \(I\) — единичная матрица того же порядка.

\(X^2=\begin{pmatrix}-5&6\\-9&10\end{pmatrix}\), поэтому \(X^3=X^2X=\begin{pmatrix}13&-14\\21&-22\end{pmatrix}\).

Вычтем \(3I\): \(P(X)=\begin{pmatrix}13&-14\\21&-22\end{pmatrix}-\begin{pmatrix}3&0\\0&3\end{pmatrix}=\begin{pmatrix}10&-14\\21&-25\end{pmatrix}\).

Ответ: \(P(X)=\begin{pmatrix}10&-14\\21&-25\end{pmatrix}\).