Пусть v - собственная скорость катера (км/ч).
Скорость катера против течения реки: v - 3 (км/ч).
Скорость катера по течению реки: v + 3 (км/ч).
Время, затраченное на путь против течения: 12 / (v - 3) (ч).
Время, затраченное на путь по течению: 5 / (v + 3) (ч).
Общее время, затраченное на путь против и по течению: 12 / (v - 3) + 5 / (v + 3) (ч).
Время, затраченное на путь по озеру: 18 / v (ч).
По условию задачи:
$$\frac{12}{v - 3} + \frac{5}{v + 3} = \frac{18}{v}$$
Умножим обе части уравнения на v(v - 3)(v + 3):
$$12v(v + 3) + 5v(v - 3) = 18(v - 3)(v + 3)$$
$$12v^2 + 36v + 5v^2 - 15v = 18(v^2 - 9)$$
$$17v^2 + 21v = 18v^2 - 162$$
$$0 = v^2 - 21v - 162$$
Решим квадратное уравнение:
$$D = (-21)^2 - 4 \cdot 1 \cdot (-162) = 441 + 648 = 1089$$
$$v_1 = \frac{-(-21) + \sqrt{1089}}{2 \cdot 1} = \frac{21 + 33}{2} = \frac{54}{2} = 27$$
$$v_2 = \frac{-(-21) - \sqrt{1089}}{2 \cdot 1} = \frac{21 - 33}{2} = \frac{-12}{2} = -6$$
Так как скорость не может быть отрицательной, v = 27 км/ч.
Ответ: 27 км/ч