Пусть скорость течения реки равна v км/ч.

Тогда скорость катера вниз по течению: 10 + v км/ч
и скорость катера вверх по течению: 10 - v км/ч

Время, затраченное на вниз по течению: 25 / (10 + v) ч
Время, затраченное на вверх по течению: 25 / (10 - v) ч

Сумма времен равна 5 ч:
25 / (10 + v) + 25 / (10 - v) = 5

Умножаем уравнение на (10 + v)(10 - v):
25(10 - v) + 25(10 + v) = 5(10 + v)(10 - v)

250 - 25v + 250 + 25v = 500 - 5v^2
500 = 500 - 5v^2
5v^2 = 0
v = 0

Скорость течения реки равна 0 км/ч.