Ответ:

Разложим \(\overrightarrow{AB}=\overrightarrow{AC}+\overrightarrow{CB}\). Тогда

\(\overrightarrow{AB}\cdot\overrightarrow{AC}=(\overrightarrow{AC}+\overrightarrow{CB})\cdot\overrightarrow{AC}=|\overrightarrow{AC}|^2+\overrightarrow{CB}\cdot\overrightarrow{AC}\).

Так как угол при C прямой, \(\overrightarrow{CB}\perp\overrightarrow{AC}\), поэтому их скалярное произведение равно нулю. Значит, \(|\overrightarrow{AC}|^2=(\sqrt{3})^2=3\).

Ответ: 3.