Ответ:

f(A)=A²−2A+I. A²=(7 0; 0 7), поэтому f(A)=(7−2+1 −6; −4 7+2+1).

Ответ: f(A)=(6 −6; −4 10).