Ответ:

а) Сторона \(BC\) лежит напротив угла \(A\), а сторона \(AC\) — напротив угла \(B\). По теореме синусов:

\(\frac{AC}{\sin 30^\circ}=\frac{BC}{\sin 45^\circ}\), поэтому \(AC=6\sqrt2\cdot\frac{1/2}{\sqrt2/2}=6.\)

б) По теореме косинусов для угла \(B\):

\(\cos\angle ABC=\frac{AB^2+BC^2-AC^2}{2\cdot AB\cdot BC}=\frac{25+49-81}{70}=-\frac{1}{10}.\)

Ответ: а) \(AC=6\); б) \(\cos\angle ABC=-\frac{1}{10}\).