Ответ:

По теореме косинусов: \(\cos\alpha=\frac{5^2+4^2-6^2}{2\cdot5\cdot4}=\frac{5}{40}=\frac18\).