Ответ:

Пусть меньший катет равен \(x\), тогда больший катет равен \(x+3\).

По формуле площади прямоугольного треугольника:

\[\frac12 x(x+3)=77.\]

Умножим уравнение на 2:

\[x(x+3)=154,\qquad x^2+3x-154=0.\]

Разложим на множители:

\[(x+14)(x-11)=0.\]

Корни: \(x=-14\) и \(x=11\). Длина не может быть отрицательной, поэтому \(x=11\).

Ответ: 11.