3. В треугольнике ABC, AB=8 см, AC=6 см и ∠C=90°. Вычислите скалярное произведение векторов \(\overrightarrow{AB}\cdot\overrightarrow{BC}\).

Так как \(\angle C=90^\circ\), отрезки \(AC\) и \(BC\) перпендикулярны. По теореме Пифагора:

\(BC^2=AB^2-AC^2=8^2-6^2=28\).

Поскольку \(\overrightarrow{AB}=\overrightarrow{AC}+\overrightarrow{CB}\), а \(\overrightarrow{CB}=-\overrightarrow{BC}\), удобнее использовать \(\overrightarrow{AB}=\overrightarrow{AC}-\overrightarrow{BC}\). Тогда \(\overrightarrow{AB}\cdot\overrightarrow{BC}=\overrightarrow{AC}\cdot\overrightarrow{BC}-\overrightarrow{BC}\cdot\overrightarrow{BC}=0-28=-28\).

Ответ: \(-28\text{ см}^2\).