3. В треугольнике \(ABC\) известно, что \(AB=10\) см, \(AC=6\) см и \(\angle C=90^\circ\). Вычислите скалярное произведение векторов \(\overrightarrow{AB}\cdot\overrightarrow{AC}\).

Так как угол \(C\) прямой, \(AB\) — гипотенуза. По теореме Пифагора: \(BC=\sqrt{AB^2-AC^2}=\sqrt{10^2-6^2}=8\) см.

Найдём скалярное произведение через координатное соотношение: \(\overrightarrow{AB}=\overrightarrow{AC}+\overrightarrow{CB}\). Векторы \(\overrightarrow{AC}\) и \(\overrightarrow{CB}\) перпендикулярны, поэтому \(\overrightarrow{AB}\cdot\overrightarrow{AC}=|AC|^2=6^2=36\).

Ответ: \(36\text{ см}^2\).