Скорость катера в стоячей воде, или в озере, обозначим x км/ч.

Скорость по течению равна x+3 км/ч.

5/(x+3) + 8/x = 1

5x + 8(x+3) = x(x+3)

13x + 24 = x^2 + 3x

x^2 - 10x - 24 = 0

D = 100 - 4(-24) = 100 + 96 = 196 = 14^2

x1 = (10 - 14)/2 = -2 < 0

x2 = (10 + 14)/2 = 12 - скорость катера в озере

12 + 3 = 15 - скорость катера по течению.