Ответ:

Обозначим \(\overrightarrow{AB}=\vec u\), \(\overrightarrow{AD}=\vec v\). Тогда \(\overrightarrow{DA}=-\vec v\), \(\overrightarrow{CD}=-\vec u\), а \(\overrightarrow{OD}=\dfrac{\vec v-\vec u}{2}\).

а) \[\begin{aligned}\overrightarrow{AB}-\overrightarrow{DA}+\overrightarrow{CD}-\overrightarrow{OD}&=\vec u-(-\vec v)-\vec u-\frac{\vec v-\vec u}{2}\\&=\frac{\vec u+\vec v}{2}=\overrightarrow{AO}.\end{aligned}\]

Следовательно, модуль выражения равен половине диагонали \(AC\).

б) Площадь параллелограмма: \(S=AB\cdot BC\cdot\sin\alpha=120\sin\alpha\). С другой стороны, \(S=AC\cdot8\), поэтому \(AC=15\sin\alpha\). Кроме того, \(AC^2=10^2+12^2+2\cdot10\cdot12\cos\alpha\).

Исключая \(\cos\alpha\), получаем \[225\cos^2\alpha+240\cos\alpha+19=0.\] Отсюда \(\cos\alpha=\dfrac{-16\pm6\sqrt5}{30}\), поэтому \[AC^2=116+48\sqrt5\quad\text{или}\quad AC^2=116-48\sqrt5.\]

Следовательно, \[\left|\overrightarrow{AO}\right|=\frac{\sqrt{116+48\sqrt5}}2\text{ см}\quad\text{или}\quad\frac{\sqrt{116-48\sqrt5}}2\text{ см}.\]

Ответ: а) \(\overrightarrow{AO}\); б) \(\dfrac{\sqrt{116+48\sqrt5}}2\) см или \(\dfrac{\sqrt{116-48\sqrt5}}2\) см.