Ответ:

По теореме косинусов для угла \(ACB\):

\[\cos\angle ACB=\frac{AC^2+BC^2-AB^2}{2\cdot AC\cdot BC}=\frac{3^2+5^2-6^2}{2\cdot3\cdot5}=\frac{9+25-36}{30}=-\frac1{15}.\]

Ответ: \(\cos\angle ACB=-\frac1{15}\).