Ответ:

Представим \(\overrightarrow{AB}=\overrightarrow{AC}+\overrightarrow{CB}\). Тогда

\(\overrightarrow{AB}\cdot\overrightarrow{AC}=(\overrightarrow{AC}+\overrightarrow{CB})\cdot\overrightarrow{AC}=|\overrightarrow{AC}|^2+\overrightarrow{CB}\cdot\overrightarrow{AC}\).

Так как \(\angle C=90^\circ\), векторы \(\overrightarrow{CB}\) и \(\overrightarrow{AC}\) перпендикулярны, поэтому их скалярное произведение равно нулю. Следовательно, \(5^2+0=25\).

Ответ: \(25\text{ см}^2\).