Пусть $$x$$ км/ч - собственная скорость катера.
Тогда $$x - 3$$ км/ч - скорость катера против течения реки.
$$x + 3$$ км/ч - скорость катера по течению реки.
Время против течения: $$t_1 = \frac{12}{x-3}$$ ч.
Время по течению: $$t_2 = \frac{5}{x+3}$$ ч.
Время по озеру: $$t_3 = \frac{18}{x}$$ ч.
По условию $$t_1 + t_2 = t_3$$.
Составим уравнение:
$$ \frac{12}{x-3} + \frac{5}{x+3} = \frac{18}{x} $$
$$ \frac{12(x+3) + 5(x-3)}{(x-3)(x+3)} = \frac{18}{x} $$
$$ \frac{12x + 36 + 5x - 15}{x^2 - 9} = \frac{18}{x} $$
$$ \frac{17x + 21}{x^2 - 9} = \frac{18}{x} $$
$$ x(17x + 21) = 18(x^2 - 9) $$
$$ 17x^2 + 21x = 18x^2 - 162 $$
$$ x^2 - 21x - 162 = 0 $$
$$ D = (-21)^2 - 4 \cdot 1 \cdot (-162) = 441 + 648 = 1089 $$
$$ x_1 = \frac{21 + \sqrt{1089}}{2} = \frac{21 + 33}{2} = \frac{54}{2} = 27 $$
$$ x_2 = \frac{21 - \sqrt{1089}}{2} = \frac{21 - 33}{2} = \frac{-12}{2} = -6 $$
Скорость не может быть отрицательной, поэтому корень $$x=-6$$ не подходит.
Ответ: 27 км/ч