Ответ:

f(A)=3A²−2A+5I. A²=(3 3; −3 0), поэтому f(A)=(9−4+5 9−2; −9+2 −2+5).

Ответ: f(A)=(10 7; −7 3).