Ответ:

f(A)=A²−A−I. A²=(1 0; −3 4), поэтому f(A)=(1−1−1 0; −3+1 4−2−1).

Ответ: f(A)=(−1 0; −2 1).