Ответ:

18  км/ч собственная скорость катера (или скорость катера в стоячей воде)  

Пошаговое объяснение:

Собственная скорость катера равна скорости в стоячей воде.

Пусть собственная скорость катера (или скорость в стоячей воде) равна х км/ч.

Тогда:

(х+2) км/ч скорость катера по течению реки

(х-2) км\ч скорость катера против течения реки

Время, затраченное на 40 км по течению 40 / (x+2), а на 16 км  

против течения 16 / (x-2)

Составим уравнение:

40 / (x+2) + 16 / (x-2) = 3  

40*(x-2) + 16*(x+2) = 3*(x-2)*(x+2)  

40x - 80 + 16 x + 32 = 3 (x² - 4)  

56x - 48 = 3x² - 12  

3x² - 56x + 36 = 0  

D = 3136-432 = 2704  

x₁ = (56 - 52) / 6 = 2/3 (скорость катера не может быть меньше скорости реки)  

x₂ = (56 + 52) / 6 = 18  (км/ч) собственная скорость катера (или скорость катера в стоячей воде)  

Проверим:

40/(18+2) + 16/(18-2) = 3

40/20 + 16/16 = 3

2 + 1 = 3

3 = 3 - за 3 часа катер прошел 40 км по течению и 16 км против течения реки