Пусть собственная скорость катера равна $$v$$ км/ч. Скорость катера по течению равна $$v+1$$ км/ч, а против течения - $$v-1$$ км/ч.
Время в пути до пункта В: $$t_1 = \frac{255}{v+1}$$ ч.
Время в пути обратно: $$t_2 = \frac{255}{v-1}$$ ч.
По условию, $$t_2 = t_1 - 2$$.
$$\frac{255}{v-1} = \frac{255}{v+1} - 2$$
$$255(v+1) = 255(v-1) - 2(v-1)(v+1)$$
$$255v + 255 = 255v - 255 - 2(v^2 - 1)$$
$$255 = -255 - 2v^2 + 2$$
$$2v^2 = -255 - 255 + 2$$
$$2v^2 = -508$$
$$v^2 = -254$$
Так как квадрат скорости не может быть отрицательным, в условии задачи, вероятно, ошибка. Если предположить, что на обратный путь было затрачено на 2 часа БОЛЬШЕ, то:
$$t_2 = t_1 + 2$$
$$\frac{255}{v-1} = \frac{255}{v+1} + 2$$
$$255(v+1) = 255(v-1) + 2(v-1)(v+1)$$
$$255v + 255 = 255v - 255 + 2(v^2 - 1)$$
$$255 = -255 + 2v^2 - 2$$
$$2v^2 = 255 + 255 + 2$$
$$2v^2 = 512$$
$$v^2 = 256$$
$$v = \sqrt{256} = 16$$ км/ч.