Ответ:

Подставляем значения: \(b=\frac{89}{13}\).

\(\sqrt{a^2+6ab+b^2}=\sqrt{\frac{25+2670+7921}{169}}=\frac{\sqrt{10616}}{13}=\frac{2\sqrt{2654}}{13}\).

Ответ: \(\frac{2\sqrt{2654}}{13}\)