Ответ:

По теореме косинусов для угла \(\angle ACB\), напротив которого лежит сторона \(AB\):

\[AB^2=AC^2+BC^2-2\cdot AC\cdot BC\cdot\cos\angle ACB.\]

Выразим косинус и подставим длины:

\[\cos\angle ACB=\frac{AC^2+BC^2-AB^2}{2\cdot AC\cdot BC}=\frac{6^2+10^2-12^2}{2\cdot6\cdot10}=\frac{-8}{120}=-\frac1{15}.\]

Ответ: \(\cos\angle ACB=-\frac1{15}\).