Ответ:

а) Обозначим \(\overrightarrow{AB}=\vec u\), \(\overrightarrow{AD}=\vec v\). Тогда \(\overrightarrow{DA}=-\vec v\), \(\overrightarrow{CD}=-\vec u\), \(\overrightarrow{OD}=\dfrac{\vec v-\vec u}{2}\).

\[\overrightarrow{AB}-\overrightarrow{DA}+\overrightarrow{CD}-\overrightarrow{OD}=\vec u+\vec v-\vec u-\frac{\vec v-\vec u}{2}=\frac{\vec u+\vec v}{2}=\overrightarrow{AO}.\]

б) Искомая длина равна половине диагонали \(AC\). В треугольнике \(ABC\) стороны равны \(AB=10\) см, \(BC=12\) см, а высота к основанию \(AC\) равна 8 см. Получаем:

\[AC^2=116\pm48\sqrt5.\]

Следовательно,

\[\left|\overrightarrow{AO}\right|=\frac{AC}{2}=\frac{\sqrt{116\pm48\sqrt5}}{2}\text{ см}.\]

Ответ: а) \(\overrightarrow{AO}\); б) \(\dfrac{\sqrt{116+48\sqrt5}}{2}\) см или \(\dfrac{\sqrt{116-48\sqrt5}}{2}\) см — в зависимости от расположения треугольника относительно диагонали.