Пусть $$v$$ - собственная скорость катера. Тогда скорость по течению равна $$v+2$$, а против течения - $$v-2$$. Время, затраченное на путь по течению, составляет $$\frac{40}{v+2}$$, а против течения - $$\frac{6}{v-2}$$. Общее время равно 3 часам. Составим уравнение:
$$\frac{40}{v+2} + \frac{6}{v-2} = 3$$
$$\frac{40(v-2) + 6(v+2)}{(v+2)(v-2)} = 3$$
$$\frac{40v - 80 + 6v + 12}{v^2 - 4} = 3$$
$$\frac{46v - 68}{v^2 - 4} = 3$$
$$46v - 68 = 3(v^2 - 4)$$
$$46v - 68 = 3v^2 - 12$$
$$3v^2 - 46v + 56 = 0$$
$$D = (-46)^2 - 4(3)(56) = 2116 - 672 = 1444 = 38^2$$
$$v_1 = \frac{46 + 38}{6} = \frac{84}{6} = 14$$
$$v_2 = \frac{46 - 38}{6} = \frac{8}{6} = \frac{4}{3}$$
Проверим $$v_1 = 14$$:
$$\frac{40}{14+2} + \frac{6}{14-2} = \frac{40}{16} + \frac{6}{12} = \frac{5}{2} + \frac{1}{2} = \frac{6}{2} = 3$$
Проверим $$v_2 = \frac{4}{3}$$:
$$\frac{40}{\frac{4}{3}+2} + \frac{6}{\frac{4}{3}-2} = \frac{40}{\frac{10}{3}} + \frac{6}{-\frac{2}{3}} = \frac{120}{10} - \frac{18}{2} = 12 - 9 = 3$$
Скорость против течения должна быть положительной, т.е. $$v>2$$, значит, оба корня подходят.
Ответ: 14 км/ч или $$\frac{4}{3}$$ км/ч