Ответ:

Обозначим \(\angle BAC=x\). Тогда \(\angle ABC=2x\), а стороны, лежащие напротив этих углов, равны соответственно \(BC=4\) и \(AC=6\).

По теореме синусов:

\(\frac{4}{\sin x}=\frac{6}{\sin 2x}\), поэтому \(\sin 2x=\frac{3}{2}\sin x\).

Используем формулу \(\sin 2x=2\sin x\cos x\). Так как \(x\) — угол треугольника, \(\sin x\ne0\), следовательно, \(2\cos x=\frac{3}{2}\), откуда \(\cos x=\frac{3}{4}\).

Угол \(C=180^\circ-3x\), поэтому по теореме синусов:

\(AB=\frac{4\sin(3x)}{\sin x}\).

Применим формулу \(\sin 3x/\sin x=4\cos^2x-1\):

\(AB=4(4\cos^2x-1)=4\left(4\cdot\frac{9}{16}-1\right)=5\).

Ответ: \(AB=5\).