Ответ:

По теореме косинусов: \(b^2=a^2+c^2-2ac\cos\beta\).

Следовательно, \(\cos\beta=\frac{a^2+c^2-b^2}{2ac}=\frac{4^2+5^2-6^2}{2\cdot4\cdot5}=\frac{16+25-36}{40}=\frac{5}{40}=\frac18\).

Ответ: \(\cos\beta=\frac18\).