Ответ:

Пусть \(\angle BAC=\alpha\), тогда \(\angle ABC=2\alpha\), а \(\angle ACB=180^\circ-3\alpha\).

По теореме синусов стороны, противолежащие углам \(A\) и \(B\), удовлетворяют равенству

\[\frac{BC}{AC}=\frac{\sin\alpha}{\sin 2\alpha}=\frac{4}{6}=\frac23.\]

Поскольку \(\sin 2\alpha=2\sin\alpha\cos\alpha\), получаем \(\cos\alpha=\frac34\), откуда \(\sin\alpha=\frac{\sqrt7}{4}\). Снова по теореме синусов:

\[\frac{AB}{\sin 3\alpha}=\frac{AC}{\sin 2\alpha}.\]

Вычислим: \(\sin 2\alpha=\frac{3\sqrt7}{8}\), а \(\sin 3\alpha=3\sin\alpha-4\sin^3\alpha=\frac{5\sqrt7}{16}\). Поэтому

\[AB=6\cdot\frac{\sin 3\alpha}{\sin 2\alpha}=6\cdot\frac{5}{6}=5.\]

Ответ: 5.