Ответ:

Пусть \(x\) км/ч — собственная скорость катера. Тогда скорость по течению равна \(x+2\), а против течения — \(x-2\). Учитывая время движения на каждом участке, составим уравнение:

\(\frac{40}{x+2}+\frac{6}{x-2}=3\), где \(x>2\).

Умножим обе части на \((x+2)(x-2)\): \(40(x-2)+6(x+2)=3(x^2-4)\).

Раскроем скобки и приведём подобные: \(46x-68=3x^2-12\), то есть \(3x^2-46x+56=0\).

Дискриминант: \(D=46^2-4\cdot3\cdot56=1444=38^2\). Поэтому \(x=\frac{46\pm38}{6}\), откуда \(x=14\) или \(x=\frac{4}{3}\).

Условию \(x>2\) удовлетворяет только \(x=14\). Проверка: \(40/(14+2)+6/(14-2)=40/16+6/12=2.5+0.5=3\) ч.

Ответ: собственная скорость катера — 14 км/ч.