Ответ:

  1. Находим длину основания: \(AB=AM+MB=3+5=8\). Поэтому \(\overrightarrow{AM}=\frac{3}{8}\overrightarrow{AB}\).

  2. Выражаем \(\overrightarrow{AB}\) через данные векторы: \(\overrightarrow{AB}=\overrightarrow{OB}-\overrightarrow{OA}=\vec b-\vec a\).

  3. Используем правило сложения векторов: \(\overrightarrow{OM}=\overrightarrow{OA}+\overrightarrow{AM}=\vec a+\frac{3}{8}(\vec b-\vec a)=\frac{5}{8}\vec a+\frac{3}{8}\vec b\).

Ответ: \(\overrightarrow{OM}=\frac{5}{8}\vec a+\frac{3}{8}\vec b\).