Ответ:

По теореме косинусов для угла C:

\(AB^2=AC^2+BC^2-2\cdot AC\cdot BC\cdot\cos\angle ACB\).

Выразим косинус и подставим значения:

\(\cos\angle ACB=\dfrac{AC^2+BC^2-AB^2}{2\cdot AC\cdot BC}=\dfrac{3^2+5^2-6^2}{2\cdot3\cdot5}=\dfrac{-2}{30}=-\dfrac{1}{15}\).

Ответ: \( -\dfrac{1}{15} \).