Ответ:

Подставляем матрицу: f(A)=A²−9A+20I. Здесь A²=(40 18; 18 13), поэтому f(A)=(40−54+20 18−18; 18−18 13−27+20).

Ответ: f(A)=(6 0; 0 6).