Ответ:

Так как \(\vec m\perp\vec n\), их скалярное произведение равно нулю:

\((\vec a+2\vec b)\cdot(5\vec a-4\vec b)=0\).

Раскроем скалярное произведение, используя его линейность:

\(5|\vec a|^2-4(\vec a\cdot\vec b)+10(\vec b\cdot\vec a)-8|\vec b|^2=0\).

Поскольку \(|\vec a|=|\vec b|=1\) и \(\vec a\cdot\vec b=|\vec a||\vec b|\cos\varphi=\cos\varphi\), получаем \(5-4\cos\varphi+10\cos\varphi-8=0\).

Отсюда \(6\cos\varphi-3=0\), значит, \(\cos\varphi=\frac12\). Угол между векторами лежит в пределах от \(0^\circ\) до \(180^\circ\), поэтому \(\varphi=60^\circ\).

Ответ: \(60^\circ\).