Вычислить значение выражения \(5a^2+6ab+b^2\), если \(a=-\frac{5}{13}\), \(b=6\frac{1}{13}\).

Преобразуем смешанное число: \(b=6\frac{1}{13}=\frac{79}{13}\).

Подставим значения:

\[5a^2+6ab+b^2=5\left(-\frac{5}{13}\right)^2+6\left(-\frac{5}{13}\right)\left(\frac{79}{13}\right)+\left(\frac{79}{13}\right)^2.\]

Приведём дроби к общему знаменателю:

\[\frac{125}{169}-\frac{2370}{169}+\frac{6241}{169}=\frac{3996}{169}.\]

Выделим целую часть:

\[\frac{3996}{169}=23\frac{109}{169}.\]

Ответ: \(23\frac{109}{169}\).